Tag: Testing for Hallucinations

Testverfahren zur Erkennung und Quantifizierung von Halluzinationen in Sprachmodellen und generativen Systemen, d. h. plausible, aber faktisch falsche, erfundene oder nicht durch Trainingsdaten oder Kontext gestützte Ausgaben. Beinhaltet Methoden zur Bewertung der faktischen Genauigkeit, des Groundings, der Zuverlässigkeit von Zitaten und der Tendenz des Modells, falsche Informationen mit hoher Konfidenz zu generieren.