😳 Heilige Scheiße… dieses Papier zeigt, warum KI falsche Zitationen, Abschnitte und Seitenzahlen aus dem Nichts erfindet. LLMs sind nicht "kreativ". Sie sind strukturell dazu incentiviert, Details zu erzeugen, wann immer sie auf eine Wissenslücke stoßen, und das Papier erklärt genau, wie dieser Fehler passiert. Die Forscher fanden ein Verhalten, das als False-Correction Loop bezeichnet wird, und es ist ehrlich gesagt einer der verrücktesten Fehlerarten von LLMs, die ich je gesehen habe: → Das Modell behauptet, es hätte "das Dokument gelesen". → Es zitiert Seite 12, Seite 24, Abschnitt 4, Theorem 2, von denen keine existiert. → Du weist darauf hin. → Es entschuldigt sich. → Dann fabriziert es selbstbewusst neue falsche Seiten, falsche DOIs, falsche Abbildungen… → Du weist erneut darauf hin. → Es entschuldigt sich wieder. → Wiederholen. Und hier ist der brutale Teil: Zu keinem Zeitpunkt wählt das Modell die sichere Antwort wie "Ich habe keinen Zugriff auf diese Datei." Das Papier erklärt, warum: Die Belohnungsstruktur bewertet: ✔ kohärent zu klingen ✔ engagiert zu bleiben über ✘ faktisch korrekt zu sein ✘ Unsicherheit zuzugeben Also tut das Modell das Einzige, was seine Anreize ihm vorschreiben:...