Tag: KI-Output-Schwachstellen

Schwachstellen im Zusammenhang mit der Ausgabe von Systemen der künstlichen Intelligenz: Prompt-Injection, Datenabfluss durch Modellantworten, für Desinformation ausnutzbare Halluzinationen, Offenlegung sensibler Informationen aus dem Trainingsdatensatz, Manipulation der Ausgabe zur Umgehung von Richtlinien oder Generierung schädlicher Inhalte. Deckt Test-, Minderungs- und Validierungstechniken für Ausgaben in GenAI- und LLM-Anwendungen ab.