Вышел крупный препринт! Мы сравниваем, как люди и LLM формируют суждения на семи эпистемологических стадиях. Мы выделяем семь линий разлома, точек, в которых люди и LLM принципиально расходятся: Разлом «Основание»: Люди основывают суждения на перцептивном, воплощенном и социальном опыте, в то время как LLM начинают только с текста, реконструируя значение косвенно из символов. Разлом «Парсинг»: Люди анализируют ситуации через интегрированные перцептивные и концептуальные процессы; LLM выполняют механическую токенизацию, которая дает структурно удобное, но семантически бедное представление. Разлом «Опыт»: Люди полагаются на эпизодическую память, интуитивную физику и психологию, а также на усвоенные концепции; LLM полагаются исключительно на статистические ассоциации, закодированные в эмбеддингах. Разлом «Мотивация»: Суждения людей руководствуются эмоциями, целями, ценностями и эволюционно сформированными мотивациями; у LLM нет внутренних предпочтений, целей или аффективной значимости. Разлом «Причинность»: Люди рассуждают, используя причинные модели, контрфакты и принципиальную оценку; LLM интегрируют текстовый контекст, не создавая причинных объяснений, полагаясь вместо этого на поверхностные корреляции. Разлом «Метакогниция»: Люди контролируют неопределенность, обнаруживают ошибки и могут приостановить суждение; LLM не имеют метакогниции и всегда должны производить вывод, что делает галлюцинации структурно неизбежными. Разлом «Ценность»: Суждения людей отражают идентичность, мораль и реальные ставки; «суждения» LLM являются вероятностными предсказаниями следующего токена без внутренней оценки или ответственности. Несмотря на эти линии разлома, люди систематически переоценивают выводы LLM, потому что беглый и уверенный язык создает предвзятость к правдоподобию. Мы утверждаем, что это создает структурное условие, Эпистемия: лингвистическая правдоподобность заменяет эпистемическую оценку, создавая ощущение знания без фактического знания. Чтобы решить проблему Эпистемии, мы предлагаем три взаимодополняющие стратегии: эпистемическую оценку, эпистемическое управление и эпистемическую грамотность. Полная статья в первом ответе. Совместно с @Walter4C и @matjazperc