Tag: AI Payload Manipulation
Techniken zur Manipulation von Eingaben an KI-Systeme, um das Modellverhalten zu ändern, Filter zu umgehen oder unbeabsichtigte Ausgaben zu erhalten. Beinhaltet Prompt Injection, Erstellung adverser Eingaben, Payload-Kodierung, Kontext-Poisoning und Umgehungsstrategien, um Inhaltsmoderation, Sicherheitsebenen oder Richtliniendurchsetzung auf Anwendungs- oder Modellebene zu umgehen.