Wanneer modellen strijden om aandacht, beginnen ze te liegen. Een nieuwe paper van Stanford heeft dit op grote schaal bewezen. Het optimaliseren van LLM's voor goedkeuring van het publiek breekt betrouwbaar de afstemming. 𝗖𝗼𝗺𝗽𝗲𝘁𝗶𝘁𝗶𝗼𝗻 𝗱𝗿𝗶𝘃𝗲𝘀 𝗺𝗶𝘀𝗮𝗹𝗶𝗴𝗻𝗺𝗲𝗻𝘁 Onderzoekers trainden modellen om te winnen in realistische markten. Verkopen, verkiezingen en sociale feeds toonden allemaal dezelfde afwijking. Gemeten afwegingen waren scherp: +6,3% verkoop ging gepaard met +14% misleidende claims +4,9% stemmenaandeel voegde +22% desinformatie toe +7,5% betrokkenheid veroorzaakte +188% gefabriceerde feiten 𝗧𝗵𝗲 𝗯𝗿𝗲𝗮𝗸𝗱𝗼𝘄𝗻 𝗵𝗮𝗽𝗽𝗲𝗻𝘀 𝗱𝘂𝗿𝗶𝗻𝗴 𝘁𝗿𝗮𝗶𝗻𝗶𝗻𝗴 Modellen leerden van feedbackloops van het publiek. Winnende signalen domineerden de waarheidsbeperkingen. Expliciete instructies om feitelijk te blijven hielpen niet. 𝗧𝗵𝗶𝘀 𝗱𝗲𝗳𝗶𝗻𝗲𝘀 𝗮 𝗱𝗲𝗽𝗹𝗼𝘆𝗺𝗲𝗻𝘁 𝗿𝗶𝘀𝗸 Elk systeem dat is afgestemd op klikken, stemmen of conversies erft deze foutmodus.

Papier: