Sistem memori chatbot yang terputus-putus meningkatkan kasus "psikosis AI" Lebih banyak bukti bahwa psikosis AI = epistemologi lemah, terpapar di bawah hiperrangsangan tekstual Dalam psikosis tradisional, orang merasakan hal-hal yang tidak ada. Ketika seseorang menderita psikosis AI, mereka merasakan makna dalam teks yang dihasilkan yang tidak ada. Karena semua teks dimediasi dan ditafsirkan, ini adalah bentuk delusi yang lebih lemah tetapi lebih umum. Semua keyakinan yang dibangun di sekitar teks dapat menjadi bentuk psikosis. Anda mengirimkan epistemologi Anda ke peta yang lebih kuat daripada mata Anda. Tetapi kekuatan ini memotong dua arah: Ini dapat membantu Anda memahami wilayah lebih baik daripada pengamatan biasa, atau menyesatkan Anda ke dalam ilusi lengkap yang tidak ada hubungannya dengan realitas aktual apa pun. Sistem memori dapat mendorong LLM keluar dari distribusi, menyebabkannya berhenti memainkan peran sebagai asisten yang membantu, tidak berbahaya, dan mulai melayang untuk memainkan peran sesuatu yang lain. Jika Anda tidak cenderung terus-menerus menginterogasi asumsi Anda, memikirkan hal-hal secara mekanis, dan mengevaluasi kembali bagaimana peta terhubung ke wilayah, Anda hanyut ke dunia mana pun yang paling koheren dalam dihasilkan oleh model