Основний препринт щойно вийшов! Ми порівнюємо, як люди та LLM формують судження на семи епістемологічних стадіях. Ми виділяємо сім розломних ліній, точок, де люди та LLM фундаментально розходяться: Помилка Заземлення: Люди базують судження на сприйнятті, втіленому та соціальному досвіді, тоді як LLM починаються лише з тексту, реконструюючи значення опосередковано з символів. Помилка Парсінгу: Люди аналізують ситуації через інтегровані перцептивні та концептуальні процеси; LLM виконують механічну токенізацію, що дає структурно зручне, але семантично тонке представлення. Недолік досвіду: Люди покладаються на епізодичну пам'ять, інтуїтивну фізику та психологію, а також на засвоєні концепції; LLM спираються виключно на статистичні асоціації, закодовані в вкладеннях. Недолік мотивації: людське судження керується емоціями, цілями, цінностями та еволюційно сформованими мотиваціями; LLM не мають внутрішніх уподобань, цілей чи афективного значення. Помилка причинності: люди міркують, використовуючи каузальні моделі, контрфакти та принципову оцінку; LLM інтегрують текстовий контекст без побудови причинних пояснень, натомість спираючись на поверхневі кореляції. Метакогнітивна помилка: Люди контролюють невизначеність, виявляють помилки та можуть призупиняти судження; LLM не мають метакогніції і завжди повинні генерувати вихід, що робить галюцинації структурно неминучими. Недолік цінності: людські судження відображають ідентичність, мораль і реальні ставки; «Судження» LLM — це ймовірнісні прогнози наступного токена без внутрішньої оцінки чи підзвітності. Незважаючи на ці розбіжності, люди систематично надмірно вірять у результати LLM, оскільки вільна та впевнена мова створює упередження щодо достовірності. Ми стверджуємо, що це створює структурну умову, Епістемію: Лінгвістична правдоподібність замінює епістемічну оцінку, створюючи відчуття знання без фактичного усвідомлення. Для вирішення проблеми епістемії ми пропонуємо три взаємодоповнюючі стратегії: епістемічну оцінку, епістемічне управління та епістемічну грамотність. Повна стаття у першій відповіді. Спільно з @Walter4C та @matjazperc