Tag: Generative KI-Sicherheit
Risiken und Gegenmaßnahmen für Systeme, die auf generativen Modellen wie LLMs, Diffusionsmodellen und multimodalen Generatoren basieren. Deckt Prompt-Injection, Data Poisoning, Modellinversion, Jailbreak, Ausnutzung von Halluzinationen, Leckage sensibler Daten aus dem Trainingsset und Governance der KI-Modell-Lieferkette ab.