AI-ul te va minți mereu. Aceasta nu este o eroare, este o lege a matematicii. Eu, student la matematică la Universitatea Carnegie Mellon, folosesc matematica ca să-ți spun de ce. Toate modelele de limbaj fac un singur lucru: Pe baza tuturor informațiilor pe care le-a citit, prezice următorul cuvânt cel mai probabil. Dar aici este un capăt înfundat. Presupunerea modelului, o numim q(x). Probabilitatea din lumea reală o numim p(x). q(x) nu poate fi niciodată egal cu p(x). Există întotdeauna o diferență între ei. Există o formulă matematică folosită pentru a măsura această prăpastie. Atâta timp cât modelul nu poate prezice perfect următorul cuvânt, nu poate fi niciodată zero. Deci, ce se întâmplă când AI-ul nu cunoaște adevărul? Nu poate fi o perioadă de inactivitate, trebuie să-ți ofere un răspuns. Poate doar să accepte și să ofere un răspuns pe care îl consideră "cel mai probabil" față de răspuns. Chiar dacă asta e greșit. Aceasta este "iluzie". O presupunere bazată pe informații incomplete, dar extrem de încrezătoare. Cel mai groaznic lucru este că matematica oferă chiar și o limită inferioară. Chiar și cel mai perfect model nu poate avea niciodată o rată de halucinații sub acest număr....