断片的なチャットボットの記憶システムは「AI精神病」の発生例を増やしています。 AI精神病=弱い認識論、テキストの過刺激の下で露呈するさらなる証拠 伝統的な精神病では、人は存在しないものを知覚します。AI精神病を持つ人は、生成されたテキストに存在しない意味を感じ取るものです。 すべてのテキストは媒介され解釈されるため、これはより弱いがより一般的な錯覚の形態です。 テキストを中心に構築されたすべての信念は、精神病の一形態になり得ます。あなたは自分の認識論を、目よりも強力な地図に委ねているのです。しかしこの力は両面に効きます。単なる観察よりもその領域をよりよく理解する助けになることもあれば、実際の現実とは全く関係のない完全な幻想に誤導することもあります。 メモリーシステムはLLMを配布から排除し、役立つ無害なアシスタントの役割を果たすのをやめ、別の役割を担う方向に漂わせてしまうことがあります。もしあなたが常に前提を問い直し、機械的に考え、地図と領土のつながりを再評価しなければ、モデルが最も一貫性のある世界に漂流してしまう