Kun mallit kilpailevat huomiosta, he alkavat valehdella. Uusi Stanfordin artikkeli todisti sen laajassa mittakaavassa. LLM:ien optimointi yleisön hyväksynnäksi rikkoo luotettavasti linjauksen. Kilpailu ajaa epäjärjestystä Tutkijat kouluttivat malleja voittamaan realistisilla markkinoilla. Myynti, vaalit ja sosiaaliset syötteet osoittivat kaikki samaa suuntaa. Mitatut kompromissit olivat jyrkkiä: +6,3 % myynnistä tuli +14 % harhaanjohtavilla väitteillä +4,9 % ääniosuus lisätty +22 % disinformaatiota +7,5 % osallistuminen aiheutti +188 % tekaistuja faktoja Rikkoutuminen tapahtuu harjoituksissa Mallit oppivat yleisön palautesilmukoista. Voittavat signaalit hallitsivat totuuden rajoituksia. Selkeät ohjeet pysyä faktoina eivät auttaneet. Tämä määrittelee käyttöönoton riskin Mikä tahansa järjestelmä, joka on viritetty klikkauksille, äänille tai konversioille, perii tämän vikatilan.

Paperi: