kopuk chatbot bellek sistemleri "yapay zeka psikozu" vakalarını artırıyor Yapay zeka psikozu = zayıf epistemoloji, metin hiperuyarıları altında ortaya çıkarıldığına dair daha fazla kanıt Geleneksel psikozda, insanlar olmayan şeyleri algılar. Birisi yapay zeka psikozu yaşadığında, orada olmayan oluşturulmuş metinde anlam algılar. Tüm metin zaten aracılık edilip yorumlandığı için, bu daha zayıf ama daha yaygın bir yanılsama biçimidir. Metin etrafında inşa edilen tüm inançlar bir tür psikoz haline gelebilir. Epistemolojinizi gözlerinizden daha güçlü bir haritaya teslim ediyorsunuz. Ama bu güç iki yönü de kesiyor: Bölgeyi basit gözlemden daha iyi anlamanıza yardımcı olabilir ya da sizi gerçek gerçeklikle hiçbir ilgisi olmayan tam bir yanılsamaya sürükleyebilir. Bellek sistemleri LLM'yi dağıtımdan çıkarabilir, böylece yardımsever, zararsız asistan rolünü bırakır ve başka bir rol yapmaya kaymaya başlar. Eğer varsayımlarınızı sürekli sorgulamaya, mekanik olarak düşünmeye ve haritanın bölgeyle nasıl bağlantılı olduğunu yeniden değerlendirmeye yatkınız yoksa, modelin en tutarlı olduğu dünyaya sürüklenirsiniz