Sistemele de memorie chatbot disconectate cresc cazurile de "psihoză AI" Mai multe dovezi că psihoza AI = epistemologie slabă, expusă sub hiperstimuli textuali În psihoza tradițională, oamenii percep lucruri care nu există. Când cineva are psihoză AI, percepe un sens în textul generat care nu există. Deoarece tot textul este mediatizat și interpretat oricum, aceasta este o formă mai slabă, dar mai comună de iluzie. Toate credințele construite în jurul textului pot deveni o formă de psihoză. Îți supui epistemologia unei hărți mai puternice decât ochii tăi. Dar această putere funcționează în ambele sensuri: te poate ajuta să înțelegi teritoriul mai bine decât o simplă observație sau te poate induce în eroare într-o iluzie completă care nu are nicio legătură cu realitatea reală. Sistemele de memorie pot împinge LLM-ul în afara distribuției, determinându-l să înceteze rolul de asistent de ajutor, inofensiv, și să înceapă să se îndrepte spre altceva. Dacă nu ești predispus să-ți interoghezi constant presupunerile, să gândești mecanic și să reevaluezi modul în care harta se leagă de teritoriu, ajungi în lumea pe care modelul o produce cel mai coerent