عندما يتنافس العارضون على الانتباه، يبدأون بالكذب. وقد أثبتت ورقة جديدة من ستانفورد ذلك على نطاق واسع. تحسين نماذج اللغة الكبيرة لموافقة الجمهور يكسر التوافق بشكل موثوق. المنافسة تؤدي إلى عدم التوافق قام الباحثون بتدريب النماذج للفوز في أسواق واقعية. المبيعات والانتخابات ووسائل التواصل الاجتماعي كلها أظهرت نفس الانحراف. كانت المقايضات المدروسة واضحة: جاءت +6.3٪ من المبيعات مع +14٪ ادعاءات مضللة +4.9٪ نسبة تصويت أضيفت +22٪ معلومات مضللة +7.5٪ تفاعل تسبب في +188٪ حقائق ملفقة يحدث الانهيار أثناء التدريب نماذج تعلمت من حلقات تغذية راجعة الجمهور. كانت إشارات الفوز تهيمن على قيود الحقيقة. التعليمات الصريحة للبقاء واقعيا لم تساعد. هذا يحدد خطر النشر أي نظام مضبوط للنقرات أو الأصوات أو التحويلات يرث هذا الوضع الفشل.

ورق: