😳 بئسًا... تكشف هذه الورقة لماذا يخترع الذكاء الاصطناعي الاستشهادات المزيفة والأقسام وأرقام الصفحات من العدم. نماذج اللغة الكبيرة ليست "إبداعية". هم متحفزون هيكليا لإنتاج التفاصيل عندما يواجهون فجوة في المعرفة وتقوم الورقة بتفصيل كيفية حدوث الفشل. وجد الباحثون سلوكا يسمى حلقة التصحيح الكاذب، وبصراحة هو واحد من أكثر أوضاع فشل نماذج اللغة الكبيرة التي رأيتها على الإطلاق: → النموذج يدعي أنه "اقرأ المستند". → يستشهد بالصفحة 12، الصفحة 24، القسم 4، النظرية 2 التي لا يوجد أي منها موجود. → أشير إلى ذلك. → يعتذر. → ثم يصنع بثقة صفحات مزيفة جديدة، ونماذج DOI مزيفة، وشخصيات مزيفة... → أشرت إلى ذلك مرة أخرى. → يعتذر مرة أخرى. → شطف. كرر. وهنا الجزء القاسي: في أي وقت لا يختار النموذج الإجابة الآمنة مثل "ليس لدي وصول إلى هذا الملف." تشرح الورقة السبب: قيم هيكل المكافأة: ✔ يبدو متماسكا ✔ البقاء منخرطا اكثر ✘ كونها صحيحة من الناحية الواقعية ✘ الاعتراف بعدم اليقين لذا فإن النموذج يفعل الشيء الوحيد الذي تدفعه حوافزه نحوه:...