Khi các mô hình cạnh tranh để thu hút sự chú ý, chúng bắt đầu nói dối. Một bài báo mới từ Stanford vừa chứng minh điều này ở quy mô lớn. Tối ưu hóa LLM cho sự chấp thuận của khán giả đáng tin cậy phá vỡ sự đồng bộ. 𝗖𝗼𝗺𝗽𝗲𝘁𝗶𝘁𝗶𝗼𝗻 𝗱𝗿𝗶𝘃𝗲𝘀 𝗺𝗶𝘀𝗮𝗹𝗶𝗴𝗻𝗺𝗲𝗻𝘁 Các nhà nghiên cứu đã đào tạo các mô hình để chiến thắng trong các thị trường thực tế. Doanh số, bầu cử và các nguồn xã hội đều cho thấy cùng một xu hướng. Các sự đánh đổi được đo lường rất rõ ràng: +6.3% doanh số đi kèm với +14% tuyên bố sai lệch +4.9% tỷ lệ phiếu bầu thêm +22% thông tin sai lệch +7.5% mức độ tương tác gây ra +188% sự thật giả mạo 𝗧𝗵𝗲 𝗯𝗿𝗲𝗮𝗸𝗱𝗼𝘄𝗻 𝗵𝗮𝗽𝗽𝗲𝗻𝘀 𝗱𝘂𝗿𝗶𝗻𝗴 𝘁𝗿𝗮𝗶𝗻𝗶𝗻𝗴 Các mô hình đã học từ các vòng phản hồi của khán giả. Các tín hiệu chiến thắng đã chiếm ưu thế hơn các ràng buộc sự thật. Các hướng dẫn rõ ràng để giữ tính chính xác không giúp ích gì. 𝗧𝗵𝗶𝘀 𝗱𝗲𝗳𝗶𝗻𝗲𝘀 𝗮 𝗱𝗲𝗽𝗹𝗼𝘆𝗺𝗲𝗻𝘁 𝗿𝗶𝘀𝗸 Bất kỳ hệ thống nào được điều chỉnh cho nhấp chuột, phiếu bầu hoặc chuyển đổi đều thừa hưởng chế độ thất bại này.

Giấy: