المواضيع الرائجة
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
jack morris
@meta @cornell البحث // نماذج اللغة ، نظرية المعلومات ، علم الذكاء الاصطناعي
إليك بعض ألفا المجانية:
إذا قمنا بعمل RL لفترة طويلة بعد التدريب المسبق ، فسنقوم بالتأكيد بالكتابة فوق المعلمات ونبدأ في نسيان الأشياء
في ورقة instructGPT الأصلية ، قام أفضل نموذج لديهم بخلط RLHF مع تدرجات التدريب المسبق لتجنب مشكلة الانجراف في النموذج بالضبط
ومع ذلك ، لم يعد أحد يفعل هذا بعد الآن. بالتأكيد ، إنها تجسيد معين (خلط متدرج) لفكرة أوسع (تجنب النسيان) ولكن يبدو وكأنه خط تفكير تم التغاضي عنه كثيرا بينما نقوم بالمزيد والمزيد من خطوات RL
على سبيل المثال ، انظر ورقة ProRL الأخيرة. إنهم يقومون بأكثر من 1000 خطوة من GRPO الآن بمعدل تعلم غير تافه ولا توجد عقوبة على الانحراف عن النموذج الأصلي. من المؤكد أن الدوائر المبنية داخل النموذج أثناء التدريب المسبق بدأت في الاضمحلال. وإذا لم يكن الأمر كذلك ، فسوف يفعلون ذلك بعد خطوات 10 آلاف أو 100 ألف RL
أظن أن هذه الفكرة ستعود في النهاية. ربما يفعلون ذلك بالفعل في المختبرات الكبيرة
40.6K
هذا يبدو مهما حقا:
من المعقول تماما أن النموذج يمكن أن يحصل على الذهب IMO دون * أي * تعلم معزز ، بالنظر إلى موجه مصنوع بشكل مثالي
نحن فقط لا نعرف ، ونفتقر إلى الأدوات اللازمة للبحث بكفاءة من خلال المساحة السريعة. سعيد لرؤية شخص ما على الأقل يحاول
29 يوليو 2025
كيف يقارن التحسين الفوري ب RL algos مثل GRPO؟
يحتاج GRPO إلى 1000 من عمليات الطرح ، ولكن يمكن للبشر التعلم من بعض التجارب - من خلال التفكير في ما نجح وما لم ينجح.
تعرف على GEPA: محسن سريع عاكس يمكنه التفوق على GRPO بنسبة تصل إلى 20٪ مع عمليات طرح أقل بمقدار 35 ضعفا! 🧵
36.19K
يحتفظ الدماغ البشري بنسبة 40٪ من معالجته حصريا للرؤية. تطورت LLMs الحديثة بطريقة ما بدون هذا تماما
29 يوليو 2025
من المدهش جدا أن خمسة عشر عاما من أبحاث رؤية الكمبيوتر المتشددين ساهمت ~ لا شيء نحو الذكاء الاصطناعي العام باستثناء محسنات أفضل
ما زلنا لا نملك نماذج تصبح أكثر ذكاء عندما نعطيهم عيونا
44.21K
الأفضل
المُتصدِّرة
التطبيقات المفضلة