نماذج الذكاء الاصطناعي تزداد قوة، لكن ثقتها لا تزال تنمو أسرع من يقينها. المزيد من المعايير توسع ما يمكن للنظام التحدث عنه، وليس ما يمكنه التحقق منه حقا. فضاء الإجابات الممكنة ينمو أسرع من الأرض تحت تلك الإجابات. يستمر النموذج في التحدث بطلاقة حتى عندما يتجاوز ما يمكن أن تدعمه البيانات. تستمر الهلوسات لأن الفعل الأساسي لم يتغير. النموذج لا يزال يتنبأ بالرمز التالي بدقة عالية. التكبير يجعل التخمين أكثر سلاسة، وليس أكثر تماسكا. عندما ينجرف النموذج خارج الأجزاء التي يفهمها فعليا في العالم، يستمر في السير بنفس السهولة والإيقاع. اللغة تصبح أكثر صقلا. تصبح الأخطاء أصعب في الاكتشاف. ما يتحسن ليس حقيقة. ما يتحسن هو الإقناع. لهذا السبب تبدو النماذج الأقوى أكثر دقة حتى عندما لا تكون كذلك. تبدو الأخطاء كأنها رؤية حتى تفحص التفاصيل. كلما تحسن النموذج في صياغة الحجة، أصبح من الأسهل نسيان أن الحجة لم تكن مدعومة بمصدر حقيقة من الأساس. الطريق إلى الأمام هو بناء أنظمة حول النموذج تحد من الانحراف. استرجاع لتثبيت الإجابة. حلقات تغذية راجعة للحفاظ على الصدق. حواجز تدفع النموذج للعودة إلى ما هو معروف فعليا. القوة وحدها لن تزيل الهلوسات. فقط التثبيت المؤقت هو السبب.