Yapay zeka her zaman size yalan söyler. Bu bir hata değil, matematik yasasıdır. Ben, Carnegie Mellon Üniversitesi'nde matematik öğrencisi olarak, nedenini anlatmak için matematik kullanıyorum. Tüm dil modelleri sadece bir şeyi yapar: Okuduğu tüm bilgilere dayanarak, en olası bir sonraki kelimeyi tahmin edin. Ama burada bir çıkmaz sokak var. Modelin tahmini, buna q(x) diyoruz. Gerçek dünya olasılığına p(x) diyoruz. q(x) asla p(x)'e eşit olamaz. Aralarında her zaman bir boşluk vardır. Bu uçurumu ölçmek için kullanılan matematiksel bir formül vardır. Model bir sonraki kelimeyi mükemmel şekilde tahmin edemediği sürece, asla sıfır olamaz. Peki, yapay zeka gerçeği bilmediğinde ne olur? Bu boş zaman olamaz, sana bir cevap vermesi gerekiyor. Sadece çözüme sapıp cevabın "en benzeri" olduğunu düşündüğü bir cevabı verebilir. Yanlış olsa bile. Bu "illüzyon"dur. Eksik bilgilere dayanan bir tahmin, ama son derece kendinden emin. En kötü şey ise matematiğin daha düşük bir sınır bile vermesi. En mükemmel model bile bu rakamın altında halüsinasyon oranına sahip olamaz....