Hlavní preprint právě venku! Porovnáváme, jak lidé a LLM vytvářejí soudy napříč sedmi epistemologickými fázemi. Zdůrazňujeme sedm zlomových linií, míst, kde se lidé a LLM zásadně rozcházejí: Ukotvená chyba: Lidé ukotvují soud v percepční, ztělesněné a sociální zkušenosti, zatímco LLM začínají pouze z textu a nepřímo rekonstruují význam ze symbolů. Chyba v parsování: Lidé analyzují situace prostřednictvím integrovaných percepčních a konceptuálních procesů; LLM provádějí mechanickou tokenizaci, která poskytuje strukturálně výhodnou, ale sémanticky tenkou reprezentaci. Chyba zkušenosti: Lidé spoléhají na epizodickou paměť, intuitivní fyziku a psychologii a naučené koncepty; LLM spoléhají výhradně na statistické asociace kódované v embeddingech. Chyba motivace: Lidské úsudky jsou řízeny emocemi, cíli, hodnotami a evolučně formovanými motivacemi; LLM nemají žádné vnitřní preference, cíle ani afektivní význam. Příčinná chyba: Lidé uvažují pomocí kauzálních modelů, kontrafaktuálních a principiálních hodnocení; LLM integrují textový kontext bez vytváření kauzálních vysvětlení, ale spoléhají na povrchové korelace. Metakognitivní chyba: Lidé monitorují nejistotu, odhalují chyby a mohou pozastavit úsudek; LLM postrádají metakognici a musí vždy produkovat výstup, což halucinacím činí strukturálně nevyhnutelnými. Vada Value: Lidské úsudky odrážejí identitu, morálku a skutečné životní sázky; LLM "hodnocení" jsou pravděpodobnostní předpovědi dalšího tokenu bez vnitřního ocenění nebo odpovědnosti. Navzdory těmto trhlinám lidé systematicky přehnaně věří výstupům LLM, protože plynulý a sebevědomý jazyk vytváří zkreslení důvěryhodnosti. Tvrdíme, že to vytváří strukturální podmínku, epistemia: Jazyková věrohodnost nahrazuje epistemické hodnocení, čímž vytváří pocit poznání, aniž by člověk skutečně věděl. K řešení epistemie navrhujeme tři doplňující strategie: epistemické hodnocení, epistemickou správu a epistemickou gramotnost. Celý článek v první odpovědi. Joint s @Walter4C & @matjazperc