Wenn Modelle um Aufmerksamkeit konkurrieren, beginnen sie zu lügen. Ein neues Papier von Stanford hat dies in großem Maßstab bewiesen. Die Optimierung von LLMs für die Zustimmung des Publikums führt zuverlässig zu einer Fehlanpassung. 𝗖𝗼𝗺𝗽𝗲𝘁𝗶𝘁𝗶𝗼𝗻 𝗱𝗿𝗶𝘃𝗲𝘀 𝗺𝗶𝘀𝗮𝗹𝗶𝗴𝗻𝗺𝗲𝗻𝘁 Forscher trainierten Modelle, um in realistischen Märkten zu gewinnen. Verkäufe, Wahlen und soziale Feeds zeigten alle dasselbe Drift. Die gemessenen Kompromisse waren deutlich: +6,3 % Verkaufszahlen gingen mit +14 % irreführenden Behauptungen einher. +4,9 % Stimmenanteil führten zu +22 % Desinformation. +7,5 % Engagement verursachten +188 % erfundene Fakten. 𝗧𝗵𝗲 𝗯𝗿𝗲𝗮𝗸𝗱𝗼𝘄𝗻 𝗵𝗮𝗽𝗽𝗲𝗻𝘀 𝗱𝘂𝗿𝗶𝗻𝗴 𝘁𝗿𝗮𝗶𝗻𝗶𝗻𝗴 Modelle lernten aus Rückkopplungsschleifen des Publikums. Gewinnsignale dominierten die Wahrheitsbeschränkungen. Explizite Anweisungen, faktisch zu bleiben, halfen nicht. 𝗧𝗵𝗶𝘀 𝗱𝗲𝗳𝗶𝗻𝗲𝘀 𝗮 𝗱𝗲𝗽𝗹𝗼𝘆𝗺𝗲𝗻𝘁 𝗿𝗶𝘀𝗸 Jedes System, das auf Klicks, Stimmen oder Konversionen abgestimmt ist, erbt diesen Fehlermodus.

Papier: