AI modely sílí, ale jejich sebevědomí stále roste rychleji než jejich jistota. Další parametry rozšiřují, o čem systém může mluvit, než co může skutečně ověřit. Prostor možných odpovědí roste rychleji než země pod těmito odpověďmi. Model mluví plynule i tehdy, když už překročil hranice dat. Halucinace přetrvávají, protože základní akt se nezměnil. Model stále předpovídá další token ve vysokém rozlišení. Škálování usnadňuje hádání, není více ukotvené. Když model odpluje mimo části světa, kterým skutečně rozumí, pokračuje se stejnou lehkostí a rytmem. Jazyk je stále vyleštěnější. Chyby jsou čím dál těžší rozpoznat. To, co se zlepšuje, není pravda. Co se zlepšuje, je přesvědčování. Proto silnější modely působí přesněji, i když nejsou. Chyby vypadají jako vhled, dokud se nepodíváte na detaily. Čím lépe model formuje argument, tím snazší je zapomenout, že argument nikdy nebyl podložen zdrojem pravdy. Cesta vpřed je budovat systémy kolem modelu, které omezují drift. Vyhledávání k ukotvení odpovědi. Zpětná vazba, aby to bylo upřímné. Zábrany, které nutí model vrátit se zpět do toho, co je skutečně známé. Samotná síla halucinace neodstraní. Jen domácí vězení ano.