Tag: Generative KI-Sicherheitsrisiken
Spezifische Bedrohungen und Schwachstellen generativer KI-Systeme, einschließlich Prompt-Injection, Datenvergiftung, Modellinversion, Extraktion sensibler Daten aus dem Trainingsset, Jailbreak von Sicherheitsvorkehrungen, Erzeugung schädlicher Inhalte, verstärkte Bias-Effekte und Supply-Chain-Risiken bei vortrainierten Modellen. Deckt LLMs, Diffusionsmodelle, multimodale Generatoren und zugehörige Angriffsflächen gemäß OWASP Top 10 for LLM und NIST AI RMF-Rahmenwerken ab.