Bản in trước lớn vừa được phát hành! Chúng tôi so sánh cách mà con người và LLM đưa ra phán đoán qua bảy giai đoạn tri thức. Chúng tôi làm nổi bật bảy điểm rạn nứt, những điểm mà con người và LLM khác biệt cơ bản: Điểm rạn nứt về Cơ sở: Con người gắn kết phán đoán vào trải nghiệm cảm nhận, thân thể và xã hội, trong khi LLM bắt đầu từ văn bản đơn thuần, tái tạo ý nghĩa một cách gián tiếp từ các ký hiệu. Điểm rạn nứt về Phân tích: Con người phân tích tình huống thông qua các quá trình cảm nhận và khái niệm tích hợp; LLM thực hiện việc phân tách cơ học mà tạo ra một đại diện cấu trúc thuận tiện nhưng mỏng về ngữ nghĩa. Điểm rạn nứt về Kinh nghiệm: Con người dựa vào trí nhớ hồi tưởng, vật lý và tâm lý học trực giác, và các khái niệm đã học; LLM chỉ dựa vào các mối liên hệ thống kê được mã hóa trong các nhúng. Điểm rạn nứt về Động lực: Phán đoán của con người được hướng dẫn bởi cảm xúc, mục tiêu, giá trị và động lực được hình thành qua tiến hóa; LLM không có sở thích, mục tiêu hay ý nghĩa cảm xúc nội tại. Điểm rạn nứt về Nguyên nhân: Con người lý luận bằng cách sử dụng các mô hình nguyên nhân, các tình huống phản thực và đánh giá có nguyên tắc; LLM tích hợp ngữ cảnh văn bản mà không xây dựng các giải thích nguyên nhân, thay vào đó phụ thuộc vào các tương quan bề mặt. Điểm rạn nứt về Tư duy phản biện: Con người theo dõi sự không chắc chắn, phát hiện lỗi và có thể tạm dừng phán đoán; LLM thiếu tư duy phản biện và luôn phải sản xuất một đầu ra, khiến cho việc ảo tưởng trở nên không thể tránh khỏi về mặt cấu trúc. Điểm rạn nứt về Giá trị: Phán đoán của con người phản ánh danh tính, đạo đức và các rủi ro trong thế giới thực; "phán đoán" của LLM là các dự đoán xác suất về token tiếp theo mà không có giá trị nội tại hay trách nhiệm. Mặc dù có những điểm rạn nứt này, con người vẫn hệ thống hóa việc tin tưởng quá mức vào đầu ra của LLM, vì ngôn ngữ trôi chảy và tự tin tạo ra một thiên lệch về độ tin cậy. Chúng tôi lập luận rằng điều này tạo ra một điều kiện cấu trúc, Epistemia: khả năng ngôn ngữ thay thế cho đánh giá tri thức, tạo ra cảm giác biết mà không thực sự biết. Để giải quyết Epistemia, chúng tôi đề xuất ba chiến lược bổ sung: đánh giá tri thức, quản trị tri thức và hiểu biết tri thức. Bài báo đầy đủ trong phản hồi đầu tiên. Cùng với @Walter4C & @matjazperc