Właśnie opublikowano ważny preprint! Porównujemy, jak ludzie i LLM-y formułują osądy w siedmiu etapach epistemologicznych. Podkreślamy siedem linii podziału, punktów, w których ludzie i LLM-y zasadniczo się różnią: Linia podziału w ugruntowaniu: Ludzie opierają osąd na doświadczeniu percepcyjnym, ucieleśnionym i społecznym, podczas gdy LLM-y zaczynają od samego tekstu, rekonstruując znaczenie pośrednio z symboli. Linia podziału w analizie: Ludzie analizują sytuacje poprzez zintegrowane procesy percepcyjne i koncepcyjne; LLM-y wykonują mechaniczne tokenizowanie, które daje strukturalnie wygodną, ale semantycznie ubogą reprezentację. Linia podziału w doświadczeniu: Ludzie polegają na pamięci epizodycznej, intuicyjnej fizyce i psychologii oraz nabytych pojęciach; LLM-y polegają wyłącznie na statystycznych powiązaniach zakodowanych w osadzeniach. Linia podziału w motywacji: Osąd ludzki jest kierowany przez emocje, cele, wartości i ewolucyjnie ukształtowane motywacje; LLM-y nie mają wewnętrznych preferencji, celów ani znaczenia afektywnego. Linia podziału w przyczynowości: Ludzie rozumują, używając modeli przyczynowych, kontrfaktycznych i zasadniczej oceny; LLM-y integrują kontekst tekstowy, nie konstruując wyjaśnień przyczynowych, polegając zamiast tego na powierzchownych korelacjach. Linia podziału w metakognicji: Ludzie monitorują niepewność, wykrywają błędy i mogą wstrzymać osąd; LLM-y nie mają metakognicji i muszą zawsze produkować wynik, co sprawia, że halucynacje są strukturalnie nieuniknione. Linia podziału w wartościach: Osądy ludzkie odzwierciedlają tożsamość, moralność i stawki w rzeczywistym świecie; "osądy" LLM są probabilistycznymi prognozami następnego tokena bez wewnętrznej wyceny czy odpowiedzialności. Pomimo tych linii podziału, ludzie systematycznie nadmiernie wierzą w wyniki LLM, ponieważ płynny i pewny język wytwarza uprzedzenie wiarygodności. Twierdzimy, że tworzy to strukturalny warunek, Epistemię: plauzybilność językowa zastępuje ocenę epistemiczną, produkując uczucie wiedzy bez faktycznej wiedzy. Aby zająć się Epistemią, proponujemy trzy uzupełniające strategie: ocenę epistemiczną, zarządzanie epistemiczne i umiejętności epistemiczne. Pełny artykuł w pierwszej odpowiedzi. Wspólnie z @Walter4C i @matjazperc