AI-modeller blir sterkere, men selvtilliten deres vokser fortsatt raskere enn deres sikkerhet. Flere parametere utvider hva systemet kan snakke om, ikke hva det virkelig kan verifisere. Rommet av mulige svar vokser raskere enn bakken under disse svarene. Modellen fortsetter å snakke flytende selv når den har gått forbi det dataene kan støtte. Hallusinasjoner vedvarer fordi den underliggende handlingen ikke har endret seg. Modellen forutsier fortsatt neste token med høy oppløsning. Skalering gjør gjettingen jevnere, ikke mer jordnær. Når en modell driver utenfor de delene av verden den faktisk forstår, fortsetter den med samme letthet og rytme. Språket blir mer polert. Feilene blir vanskeligere å oppdage. Det som blir bedre, er ikke sannheten. Det som forbedrer er overtalelse. Derfor føles sterkere modeller mer nøyaktige selv når de ikke er det. Feilene ser ut som innsikt inntil du undersøker detaljene. Jo bedre modellen blir til å forme et argument, desto lettere er det å glemme at argumentet aldri ble støttet av en sannhetskilde i utgangspunktet. Veien videre er å bygge systemer rundt modellen som begrenser driften. Henting for å forankre svaret. Tilbakemeldingssløyfer for å holde det ærlig. Sikkerhetsmekanismer som tvinger modellen tilbake til det som faktisk er kjent. Kraft alene fjerner ikke hallusinasjoner. Bare jording vil gjøre det.