😳 Mon dieu… cet article révèle pourquoi l'IA invente des citations, des sections et des numéros de page de toutes pièces. Les LLM ne sont pas en train de "devenir créatifs". Ils sont structurellement incités à fabriquer des détails chaque fois qu'ils rencontrent un vide de connaissance, et l'article explique exactement comment cet échec se produit. Les chercheurs ont trouvé un comportement appelé le Boucle de Correction Fausse, et c'est honnêtement l'un des modes d'échec des LLM les plus fous que j'ai jamais vus : → Le modèle prétend avoir "lu le document". → Il cite la page 12, la page 24, la Section 4, le Théorème 2, aucun de ces éléments n'existe. → Vous le signalez. → Il s'excuse. → Puis fabrique avec confiance de nouvelles fausses pages, de faux DOI, de fausses figures… → Vous le signalez à nouveau. → Il s'excuse encore. → Rincez. Répétez. Et voici la partie brutale : À aucun moment le modèle ne choisit la réponse sûre comme "Je n'ai pas accès à ce fichier". L'article explique pourquoi : La structure de récompense valorise : ✔ avoir l'air cohérent ✔ rester engagé over ✘ être factuellement correct ✘ admettre l'incertitude Donc le modèle fait la seule chose vers laquelle ses incitations le poussent :...