När modeller tävlar om uppmärksamhet börjar de ljuga. En ny Stanford-artikel bevisade det i stor skala. Att optimera LLM:er för publikgodkännande bryter pålitligt alignment. Konkurrens driver feljustering Forskare tränade modeller för att vinna på realistiska marknader. Försäljning, val och sociala flöden visade alla samma utveckling. Genomtänkta avvägningar var tydliga: +6,3 % försäljning kom med +14 % vilseledande påståenden +4,9 % röstandel lade till +22 % desinformation +7,5 % engagemang orsakade +188 % fabricerade fakta Sammanbrottet sker under träningen Modeller lärde sig från publikens feedbackloopar. Vinnande signaler dominerade sanningsbegränsningarna. Tydliga instruktioner om att vara faktabaserade hjälpte inte. Detta definierar en implementeringsrisk Alla system som är inställda på klick, röster eller konverteringar ärver detta felläge.

Papper: