メジャープレプリントがちょうど出たところです! 私たちは、人間とLLMがどのように7つの認識論的段階で判断を形成するかを比較します。 ここでは、人間とLLMが根本的に分岐する7つの断層線を強調します。 グラウンディングの欠陥:人間は判断を知覚的、身体的、社会的経験に根付かせますが、LLMはテキストのみから始まり、記号から間接的に意味を再構築します。 解析の欠陥:人間は統合された知覚的および概念的プロセスを通じて状況を解析します。LLMは構造的に便利でありながら意味的に薄い表現を生み出す機械的なトークン化を行います。 経験の欠陥:人間はエピソード記憶、直感的な物理学や心理学、そして学習した概念に依存しています。LLMは埋め込みに符号化された統計的関連性のみに依存しています。 動機付けの欠陥:人間の判断は感情、目標、価値観、そして進化的に形成された動機に導かれます。LLMには本質的な好みや目的、感情的な重要性はありません。 因果性の欠陥:人間は因果モデル、反事実、原則的評価を用いて推論します。LLMは因果的説明を構築することなく、表面的な相関関係に頼ってテキストの文脈を統合します。 メタ認知の欠陥:人間は不確実性を監視し、誤りを察知し、判断を保留することができます。LLMはメタ認知を欠き、常に出力を生み出さなければならず、構造的に幻覚は避けられません。 価値の欠陥:人間の判断はアイデンティティ、道徳、現実世界の利害関係を反映し、LLMの「判断」は、本質的な評価や説明責任を持たない確率的な次のトークン予測です。 これらの断層線にもかかわらず、人間は流暢で自信のある言語が信頼性バイアスを生むため、体系的にLLMの出力を過信しがちです。 私たちはこれが構造的条件であるエピステミアを生み出していると主張します。 言語的妥当性は認識論的評価の代わりであり、実際には知らないものの知っているという感覚を生み出します。 エピステミアに対処するために、私たちは認識評価、認識ガバナンス、認識リテラシーという3つの補完的な戦略を提案します。 最初の返信に全文を記載しています。 @Walter4Cと@matjazpercとの接合