Tag: Over-Reliance
Übermäßige Abhängigkeit von automatisierten Systemen, KI-Modellen oder Sicherheitstools ohne angemessene menschliche Aufsicht oder kritische Validierung. Im Kontext der KI-Sicherheit weist dies auf das Risiko hin, Ergebnisse generativer Modelle oder automatisierter Entscheidungsfindungen ohne Überprüfung zu akzeptieren, was zu falschen Entscheidungen, unentdeckten Bias oder nicht identifizierten Schwachstellen führen kann. Relevant für AI Red Teaming, Human-in-the-Loop-Design und die Governance autonomer Systeme.