I modelli AI stanno diventando più potenti, ma la loro fiducia cresce ancora più velocemente della loro certezza. Più parametri espandono ciò di cui il sistema può parlare, non ciò che può realmente verificare. Lo spazio delle risposte possibili cresce più velocemente del terreno sottostante quelle risposte. Il modello continua a parlare fluentemente anche quando ha superato ciò che i dati possono supportare. Le allucinazioni persistono perché l'atto sottostante non è cambiato. Il modello sta ancora prevedendo il prossimo token ad alta risoluzione. La scalabilità rende il lavoro di indovinare più fluido, non più ancorato. Quando un modello si allontana dalle parti del mondo che comprende realmente, continua a procedere con la stessa facilità e ritmo. Il linguaggio diventa più raffinato. Gli errori diventano più difficili da individuare. Ciò che migliora non è la verità. Ciò che migliora è la persuasione. Ecco perché i modelli più forti sembrano più accurati anche quando non lo sono. Gli errori sembrano intuizioni fino a quando non si esaminano i dettagli. Più il modello diventa abile nel plasmare un argomento, più è facile dimenticare che l'argomento non è mai stato supportato da una fonte di verità in primo luogo. Il percorso da seguire è costruire sistemi attorno al modello che limitino la deriva. Recupero per ancorare la risposta. Cicli di feedback per mantenerlo onesto. Barriere che costringono il modello a tornare a ciò che è realmente conosciuto. Il potere da solo non rimuoverà le allucinazioni. Solo l'ancoraggio lo farà.