Tag: AI Privacy Attack Testing
Testtechniken zur Überprüfung der Widerstandsfähigkeit von KI-Systemen gegen Angriffe, die darauf abzielen, sensible Daten, Trainingsinformationen oder PII (personenbezogene Daten) aus Modellen zu extrahieren. Beinhaltet Membership-Inference-Angriffe, Modellinversion, Datenextraktion mittels Prompt Injection und Antwortanalyse zur Erkennung von Lecks vertraulicher Informationen in Trainingsdatensätzen.