AI-Modelle werden stärker, aber ihr Vertrauen wächst immer noch schneller als ihre Sicherheit. Mehr Parameter erweitern, worüber das System sprechen kann, nicht was es wirklich verifizieren kann. Der Raum möglicher Antworten wächst schneller als der Boden unter diesen Antworten. Das Modell spricht weiterhin fließend, selbst wenn es über das hinausgeht, was die Daten unterstützen können. Halluzinationen bestehen fort, weil der zugrunde liegende Akt sich nicht geändert hat. Das Modell sagt weiterhin das nächste Token mit hoher Auflösung voraus. Skalierung macht das Raten geschmeidiger, nicht fundierter. Wenn ein Modell außerhalb der Teile der Welt driftet, die es tatsächlich versteht, macht es mit der gleichen Leichtigkeit und dem gleichen Rhythmus weiter. Die Sprache wird polierter. Die Fehler sind schwerer zu erkennen. Was sich verbessert, ist nicht die Wahrheit. Was sich verbessert, ist Überzeugungskraft. Deshalb fühlen sich stärkere Modelle genauer an, auch wenn sie es nicht sind. Die Fehler sehen aus wie Einsichten, bis man die Details untersucht. Je besser das Modell darin wird, ein Argument zu formen, desto einfacher ist es zu vergessen, dass das Argument von Anfang an nie durch eine Quelle der Wahrheit gestützt wurde. Der Weg nach vorne besteht darin, Systeme um das Modell herum zu bauen, die das Driften einschränken. Abruf, um die Antwort zu verankern. Feedback-Schleifen, um es ehrlich zu halten. Leitplanken, die das Modell zurück in das zwingen, was tatsächlich bekannt ist. Allein die Macht wird Halluzinationen nicht beseitigen. Nur Verankerung wird es tun.