Stor preprint har precis släppts! Vi jämför hur människor och LLM bildar bedömningar över sju epistemologiska stadier. Vi lyfter fram sju spricklinjer, punkter där människor och LLM fundamentalt skiljer sig åt: Grundfelet: Människor förankrar omdömet i perceptuell, kroppslig och social erfarenhet, medan LLM:er börjar enbart från text och rekonstruerar betydelsen indirekt från symboler. Parsing-felet: Människor tolkar situationer genom integrerade perceptuella och konceptuella processer; LLM:er utför mekanisk tokenisering som ger en strukturellt bekväm men semantiskt tunn representation. Erfarenhetsproblemet: Människor förlitar sig på episodiskt minne, intuitiv fysik och psykologi samt inlärda koncept; LLM:er förlitar sig enbart på statistiska associationer kodade i inbäddningar. Motivationsfelet: Mänskligt omdöme styrs av känslor, mål, värderingar och evolutionärt formade motivationer; LLM har inga inneboende preferenser, mål eller affektiv betydelse. Orsaksfelet: Människor resonerar med hjälp av kausala modeller, kontrafaktiska och principiell utvärdering; LLM:er integrerar textuell kontext utan att konstruera kausala förklaringar, och bygger istället på ytliga korrelationer. Den metakognitiva felet: Människor övervakar osäkerhet, upptäcker fel och kan skjuta upp omdömet; LLM:er saknar metakognition och måste alltid producera ett resultat, vilket gör hallucinationer strukturellt oundvikliga. Värdefelet: Mänskliga omdömen speglar identitet, moral och verkliga insatser; LLM-"domar" är sannolikhetsmässiga next-token-förutsägelser utan inneboende värdering eller ansvarstagande. Trots dessa svagheter övertror människor systematiskt LLM-resultat, eftersom flytande och självsäkert språk skapar en trovärdighetsbias. Vi hävdar att detta skapar ett strukturellt tillstånd, epistemimi: Språklig trovärdighet ersätter epistemisk utvärdering och skapar känslan av att veta utan att faktiskt veta. För att hantera epistemi föreslår vi tre kompletterande strategier: epistemisk utvärdering, epistemisk styrning och epistemisk läskunnighet. Fullständig artikel i det första svaret. Tillsammans med @Walter4C & @matjazperc