Tag: AI Red Team Metriken

Quantitative und qualitative Metriken zur Bewertung der Effektivität von AI-Red-Teaming-Aktivitäten für KI-Systeme und generative Modelle. Beinhaltet Robustheitsindikatoren, Erfolgsraten gegnerischer Angriffe, Abdeckung von KI-Angriffsflächen, Metriken zur Bias-Erkennung, Erfolgsrate bei Prompt Injection und Mess-Frameworks für die Sicherheit von ML/LLM-Systemen.