AI 模型正在變得更強大，但它們的信心增長速度仍然快於它們的確定性。 更多的參數擴展了系統可以討論的範疇，而不是它可以真正驗證的內容。可能答案的空間增長速度快於這些答案所依賴的基礎。即使模型已經超出了數據所能支持的範圍，它仍然能流利地表達。 幻覺持續存在，因為其根本行為並未改變。模型仍然在高解析度下預測下一個標記。擴展使得猜測變得更流暢，而不是更有根據。當模型漂移到它實際理解的世界之外時，它仍然以相同的輕鬆和節奏繼續進行。語言變得更加精練，錯誤也變得更難以察覺。 改善的不是事實，而是說服力。這就是為什麼更強大的模型感覺更準確，即使它們並不是。錯誤看起來像洞察，直到你檢查細節。模型在塑造論點方面越好，越容易忘記這個論點最初並沒有得到真實來源的支持。 前進的道路是圍繞模型建立系統，以約束漂移。檢索以固定答案。反饋循環以保持其誠實。護欄強迫模型回到實際已知的內容。 僅僅擁有力量無法消除幻覺。只有扎根才能做到。