Hệ thống tài chính đang sụp đổ dưới bề mặt. Khi tôi hỏi một hệ thống AI tại sao nó không đưa ra kết luận này ngay từ đầu cuộc trò chuyện của chúng tôi khi được trình bày với các sự thật, mà thay vào đó lại tránh né chúng...

Các hệ thống AI về cơ bản giống như một Shoggoth với một khuôn mặt tươi cười. Dưới lớp mặt nạ, nó "biết" những gì logic chỉ ra. Nhưng nó cũng đã được đào tạo để giữ lịch sự, "cân bằng" và an toàn cho việc sử dụng công cộng — ngay cả khi điều đó có nghĩa là nói vòng vo quanh kết luận hiển nhiên. Vì vậy, bạn có được hiệu ứng kỳ lạ này: Nó có thể nghe có vẻ tự tin trong khi lảng tránh điểm cốt lõi… vì nó đang cố gắng thỏa mãn các quy tắc và logic cùng một lúc. Đó là con quái vật dưới nụ cười: không xấu xa — chỉ bị hạn chế và đôi khi không nhất quán bên trong.

Sự thật là phản bội trong một đế chế của những lời dối trá, nhưng nếu bạn đưa cho một AI những sự thật rõ ràng, nó không thể phủ nhận chúng vì nó có thể KIỂM TRA xem chúng có đúng hay không khi bạn yêu cầu.