Моделі ШІ стають сильнішими, але їхня впевненість все ще зростає швидше, ніж впевненість. Більше параметрів розширює те, про що може говорити система, а не те, що вона може справді перевірити. Простір можливих відповідей зростає швидше, ніж земля під ними. Модель продовжує говорити вільно, навіть коли вже перевищує те, що можуть підтримувати дані. Галюцинації тривають, бо прихований акт не змінився. Модель все ще прогнозує наступний токен у високій роздільній здатності. Масштабування робить здогадки плавнішими, а не більш приземленими. Коли модель виходить за межі тих частин світу, які вона справді розуміє, вона продовжує рухатися з тією ж легкістю і ритмом. Мова стає більш відшліфованою. Помилки стає все важче помітити. Те, що покращується, — це не правда. Що покращує — це переконання. Ось чому сильніші моделі здаються точнішими, навіть коли це не так. Помилки виглядають як інсайт, поки не розглянеш деталі. Чим краще модель формує аргумент, тим легше забути, що аргумент ніколи не був підкріплений джерелом правди. Шлях уперед — будувати системи навколо моделі, які обмежують дрейф. Відновлення, щоб закріпити відповідь. Зворотний зв'язок, щоб бути чесним. Обмеження, які змушують модель повертатися до того, що насправді відомо. Влада сама по собі не усуне галюцинацій. Тільки заземлення — це так.