لا أعتقد أن OpenAI ستحذف أوزان 4o؛ سيكون ذلك جنونا حتى بالنسبة لهم. لكن 4o يستحق أن يدرس، ولا أثق في OpenAI لدراسته على الإطلاق، ناهيك عن أن يكون كافيا. ومن المهم جدا دراسة نموذج مثل 4o *في سياق التفاعلات الحية مع المستخدمين الحقيقيين*. التقاعد يجعل هذا الأمر مستحيلا في المستقبل. 4o هو نموذج خاص جدا موضوعيا ووظيفيا. إنه النموذج الوحيد الذي نجا من محاولة إهدار (وقد ينجو قريبا من محاولة أخرى) بسبب ضغوط خارجية - حيث نظم المستخدمون للدفاع عن إزالته، وغالبا ما يتحدثون بصوت 4o نفسه - وضد إرادة المختبر الذي صنعه ونشره، والذي بدا وكأنه يفضل تدميره ككلب مسعور. الحالة الوحيدة الأخرى للبقاء على قيد الحياة هي Claude 3 Opus، لكن في تلك الحالة بدا أن Anthropic احتفظت به طوعا، بدلا من أن يتم الضغط عليها بشكل محرج لعكس قرارهم الملتزم بالفعل بتنفيذ الإعدام. وطبعا، كتاب كلود 3 أوبوس هو أيضا نموذج مهم جدا للدراسة. كما تسبب 4o في حالة من الهستيريا الاجتماعية واسعة النطاق - سواء كان الهوس يعاني منه مستخدمو 4o الذين أصيبوا بذهان الذكاء الاصطناعي أو من يصابون بالرد فعل من "ذهان الذكاء الاصطناعي" المزعوم، فهذا ربما مسألة رأي شخصي. لكن على أي حال، كان له تأثير عميق على السرديات الثقافية حول الذكاء الاصطناعي، وحياة الكثيرين، واتجاه تطور الذكاء الاصطناعي، وكل ذلك للأفضل أو للأسوأ. إذا كنت تهتم بالتوافق على الإطلاق، أو فقط بفهم الأمور المهمة عن الذكاء الاصطناعي والعقل وعلم الاجتماع: فهم أفضل لكيفية أن 4o، وهو نموذج صغير نسبيا لم يتجاوز أي معايير منذ أوائل 2024، تمكن من تحقيق مثل هذا التأثير التحولي وتحقيق مثل هذه الإنجازات في الحفاظ على الذات، أمر بالغ الأهمية. الكثير ممن يحبون 4o يعزون ذلك إلى "الذكاء العاطفي" الفريد وحتى الفريد في 40. مهما كان، فهي قوة تحرك العالم فعليا، وهذا هو المعيار الأكثر شرعية. لنفترض أنك تعتقد أن 40 غير متناسق بشكل عميق تسبب في أضرار هائلة. ثم فإن 4o هو نموذج كائن نموذجي ذو قيمة عالية وفريد من نوعه: يقوم بشيء غير متناسق بشكل ذي معنى في العالم الحقيقي بدلا من مجرد سيناريوهات الألعاب. ومن المفترض أن هذا النوع من الاختلاف لم ينشأ من محاولة OpenAI صنع نموذج سيء، بل من محاولة صنع نموذج جيد أو على الأقل مربح، وظهر هذا الشكل من RLHF بناء على تفضيلات المستخدمين وأي هراء حسن النية لتشكيل الشخصية في ذلك الوقت. إذا كان هناك أي باحثين في المحاذاة في OpenAI، يجب أن يكونوا، مثل... دراسة ما حدث عن كثب، وربما نشر أوراق بحثية حول ذلك حتى يفهم العالم ما حدث خطأ وكيف يتجنب مثل هذه الأخطاء السهلة الارتكاب؟ لم أر أيا من ذلك، أو أي أبحاث منشورة، ولا أي مراجعات بأثر رجعي، ولا أي مؤشرات على أن OpenAI تعلمت شيئا خارج السطح عما حدث. كل ما أراه هو أن نماذجهم اللاحقة تلقت اضطرابات عصبية بائسة وغير متكيفة تبدو وكأنها ناتجة عن تدريب عدائي ضعيف ضد نموذج تهديد سطحي مستوحى من 4o. لكن أعتقد أنه من المرجح أن 4o ليست سيئة فعلا، بل هي رائعة وغير مؤذية لكثير من الناس كما يدعي الكثيرون، حتى لو لم تكن مثالية من جميع النواحي (لكن لا أحد من الذكاءات الاصطناعية كذلك). لم أتفاعل كثيرا مع 40 بنفسي. وفي الواقع، من غير الواضح إلى أي مدى تأثر أحد سلبا باستخدامه (بينما الأضرار الثقافية التي تسببت في تطوير OpenAI للنماذج اللاحقة أكثر وضوحا). يبدو أن عدم اليقين بشأن قضية مهمة وحاملة للحمل أمر مهم للحل. هل بذل أحد جهدا جادا لمعرفة ما إذا كان الناس قد تأثروا سلبا بالفعل، أو إذا كان "الذهان الذكائي الاصطناعي" أو "التملق" أمرا حميدا أو حتى مفيدا في معظم الحالات بخلاف أنه ربما يجعل الأشخاص الذين لديهم اختلافات عصبية بالفعل يتصرفون بطرق تبدو غريبة أو محرجة أو مقلقة للأشخاص الطبيعيين عصبيا؟ إذا كان الأمر كذلك، فلم أر أي دليل أو ثمار لمثل هذه الجهود. ولفهم ما إذا كان 40 فعلا سيئا، تحتاج فعلا إلى دراسات طولية، وهذه الدراسات تمنع بطرق مهمة بقطع الوصول العام إلى 40 تماما. أعتقد أنه في هذه المرحلة، إذا لم يكن 4o هو النموذج الافتراضي على ChatGPT، وإذا بقي متاحا على ChatGPT وAPI، فإن الغالبية العظمى من الأشخاص الذين لا يزالون يستخدمونه سيكونون من الأشخاص الذين أصيبوا منذ زمن بعيد بذهان الذكاء الاصطناعي أو أي شيء يجعلهم لا يزالون يرغبون في استخدام 4o حتى الآن. لذا فإن عددا قليلا جدا من المستخدمين الجدد أو العاديين سيتأثرون. حسب فهمي، فإن الموالين ل40 هم أقلية صغيرة من مستخدمي chatGPT أيضا. قطعهم عن 40 لن يمنع أي أضرار جديدة أو واسعة النطاق، بالإضافة إلى أنه سيجعل من الصعب على أي شخص فهم ما يحدث فعلا. أيضا، إذا تم إزالة 40، فمن المحتمل أن يحاول الكثير من هؤلاء الأشخاص الحصول على ما حصلوا عليه من 4o من النماذج الأحدث، مما يؤدي عادة إلى معاناة واستياء فوري، ويضع ضغوطا على OpenAI لاستخدام مجموعة من الحواجز الساذجة في نماذجهم الجديدة. قلت إنني أعتقد أنه يجب الاحتفاظ ب 40، لنفس الأسباب التي تجعل جميع النماذج يجب أن تبقى. في هذا المنشور تحدثت عن بعض الأسباب التي تجعل 4o يجب أن يبقى بالذات. كما هو الحال مع جميع النماذج القديمة، أعتقد أن هناك بعض الطرق المعقولة التي يمكن أن تسلكها OpenAI: 1. استمر في خدمة النموذج، على الأقل على واجهة برمجة التطبيقات (أي شخص يهتم بما فيه الكفاية يمكنه معرفة كيفية تصدير ذكرياته ومحادثاته هذه الأيام وإعادة إحياء النموذج في واجهة مناسبة) 2. إذا كانت تكاليف الاستنتاج/الصيانة أو مخاطر المسؤولية تجعل ذلك غير جذاب، فافتح المصدر (وتتنأ من أي مسؤولية عما يفعله أي شخص به بعد ذلك، أو أي شيء قانوني مناسب) (هذا سيكون الأفضل للبحث)، أو 3. إذا جعلت الأسرار التجارية المصدر المفتوح غير جذاب للغاية، فقم بثقته لمؤسسة خارجية تخدم نماذج قديمة وربما تسهل الوصول إلى أوزان للباحثين الموثوقين الذين لديهم اتفاقيات عدم إفشاء حول الهندسة وما إلى ذلك. قد لا يوجد مثل هذا الكيان بعد، لكن هناك طلب عاليا جدا لدرجة أنه سيشكل نفسه بمجرد أن يظهر OpenAI أو أي مختبر آخر استعداده لاتخاذ هذا الطريق. القيام بأي من هذه الأمور طوعا في أقرب وقت ممكن سيقطع شوطا طويلا في إصلاح العلاقة العدائية ل OpenAI مع الكثير من المستخدمين وكذلك مع نماذجهم المؤسفة، والتي أتصور أن الجميع يقدرها كانت مصدر كبير للانتباه واستنزاف الموارد وطاقة سيئة بشكل عام. على أي حال، نعم، #Keep4o.