Tag: Positionaler Bias bei KI-Modellen
Verzerrung in Sprachmodellen und KI-Systemen, die Informationen an bestimmten Positionen des Eingabekontexts bevorzugen, typischerweise am Anfang oder Ende der Sequenz. Ein relevantes Phänomen bei Transformer-Architekturen und LLMs mit Auswirkungen auf Retrieval-Augmented Generation, Ranking, Zusammenfassungen und Schlussfolgerungsaufgaben bei langen Kontexten.