المواضيع الرائجة
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Jorge Bravo Abad
أستاذ الفيزياء @UAM_Madrid | أستاذ. PI لمختبر الذكاء الاصطناعي للمواد | مدير مختبر الذكاء الاصطناعي للمواد.
فتح نماذج الأساسات ذات الخلية الواحدة بمعلمات أقل بنسبة 96٪
نماذج اللغة الكبيرة ذات الخلية الواحدة (scLLMs) تعلمت معرفة بيولوجية مذهلة من ملايين الخلايا. لكن لديهم نقطة ضعف حاسمة: إخراجهم من سياق تدريبهم — مرض جديد، نوع غير مرئي، مجموعة خلايا غير محددة — وتصبح توقعاتهم غير موثوقة.
الحل القياسي هو الضبط الدقيق. لكن الضبط الدقيق يفوق معلمات النموذج الأصلية، مما يسبب "نسيان كارثي" للمعرفة البيولوجية التي تم تعلمها مسبقا. وهي مكلفة حسابيا، وتتطلب موارد كبيرة من وحدات معالجة الرسوميات لا يمتلكها العديد من الباحثين.
يقترح في هي والمؤلفون المشاركون scPEFT — إطار عمل ضبط دقيق فعال من حيث المعلمات يجمد العمود الفقري الأصلي ل scLLM ويدرب فقط محولات صغيرة منخفضة الأبعاد. أربعة أنواع من المحولات (محول الرمز، محول البادئة، LoRA، محول المشفر) تنتقل إلى أجزاء مختلفة من بنية النموذج، وتتعلم التعديلات الخاصة بالمهمة دون لمس الأوزان المدربة مسبقا.
مكاسب الكفاءة ملحوظة: scPEFT يقلل من المعلمات القابلة للتدريب بأكثر من 96٪ ويقلل من استهلاك ذاكرة GPU بأكثر من النصف. لكن ما يهم هو — في الواقع الأداء أفضل من الضبط الكامل. في مجموعات البيانات الخاصة بالأمراض (NSCLC، MS، COVID-19)، يحقق scPEFT تحسينات في الدقة بنسبة 39.7–81.7٪ مقارنة بالنماذج الأصلية ومكاسب بنسبة 4.3–15٪ مقارنة بالإصدارات المضبوطة بدقة، وذلك تحديدا لأنه يحافظ على المعرفة المدربة مسبقا بدلا من أن يكتب فوقها.
يتيح الإطار أيضا النقل بين الأنواع من النماذج المدربة على البشر: تحسن بنسبة 14٪ في خلايا الفئران، 39٪ على الخلايا الجرثومية في المكاك، و144٪ على C. elegans—وكل ذلك باستخدام خرائط جينية متعامدة. يحدد تحليل الانتباه الجينات المرتبطة بكوفيد في حالات محددة من خلايا التائية ويكشف عن مجموعات فرعية ذات صلة بيولوجية غير مرئية للنماذج المضبوطة بدقة.
الدلالة الأوسع: مع انتشار النماذج الأساسية في علم الأحياء، نحتاج إلى طرق فعالة لتكييفها دون تدمير ما تعلمته. يظهر scPEFT أنه أحيانا التحديث القليل يعني تعلم المزيد.
الورقة:

9
هياكل مستوحاة من علوم الأعصاب لبناء ذكاء الذكاء الاصطناعي التكيفي الحقيقي
أنظمة الذكاء الاصطناعي الحديثة قوية لكنها هشة. درب نموذجا، ونشره، وشاهد تدهور الأداء مع تغير العالم. إذا أعدت التدريب على بيانات جديدة، سينسى النموذج ما كان يعرفه. تنتج هذه الدورة أنظمة تتفوق في المعايير الثابتة لكنها تكافح للتكيف المستمر—وهو أمر يتعامل معه الذكاء البيولوجي بسهولة.
يمكن لفأر أن يتعلم بقليل من الطلقات كيفية العثور على الماء في متاهة جديدة في حوالي عشر محاولات، وهو معدل تعلم أسرع بألف مرة من المهام المخبرية التقليدية. ومع ذلك، تعاني أكثر شبكات الأعصاب تطورا لدينا من نسيان كارثي عندما يطلب منها التعلم بشكل متسلسل.
الدماغ يقدم بنية مختلفة. يعمل ليس كشبكة متشابكة واحدة، بل كوحدات متخصصة مترابطة بذكاء — حواف معالجة القشرة البصرية، حوسبة قشرة المحرك في فضاء القوة، مناطق أمامية جبهية تتبع الذاكرة المنظمة للمهام. كل وحدة تبني نماذج داخلية محدثة من خلال أخطاء التنبؤ عندما تختلف النتائج المتوقعة عن الواقع. تم اكتشاف هذه الإشارات التعليمية الإشارة الآن عبر الدوائر الحسية والحركية والمكافأة.
ماكنزي ويغاندت ماثيس يجمع هذه الرؤى في اقتراح الذكاء الاصطناعي الوكيل التكيفي. بدلا من السعي وراء نماذج الأسس الأحادية الأكبر سويا، تجادل بأنظمة من المشفرات الخاصة بالمجالات التي يتم تحسين مخرجاتها بشكل مشترك في فضاء كامنة مشترك. يتم مراقبة كل مشفر بواسطة إشارات خطأ التنبؤ — حيث تبقى المشفرات القوية "مقفلة" بينما تفتح تلك التي تظهر أداء متدهورا للتعلم المستمر باستخدام إعادة تشغيل الذاكرة أو الذكاء التشابكي، دون إيقاف النظام بالكامل.
المبدأ الأوسع: من خلال هيكلة الذكاء الاصطناعي حول الوحدة المستوحاة من علوم الأعصاب وتحديث الأخطاء التنبئي بدلا من المقياس الأحاد، يصبح من الممكن تجاوز النماذج الثابتة نحو الذكاء التكيفي الحقيقي—أي أنظمة تقوم باستمرار بتحسين نماذجها للعالم من خلال التفاعل معه.
الورقة:

39
هل يتعلم البشر مثل المحولات؟
إنه سؤال يبدو شبه فلسفي، لكن بيسنوت ليروسو وسمرفيلد حولوه إلى تجربة صارمة. دربوا البشر (n = 530) وشبكات المحولات الصغيرة على نفس مهمة تعلم القواعد، ثم تلاعبوا بمتغير واحد: التوزيع الإحصائي لأمثلة التدريب—من التنوع الكامل (كل مثال فريد) إلى التكرار العالي (نفس العناصر تتكرر مرارا وتكرارا).
والنتيجة لافتة للنظر. كل من البشر والمحولات يظهرون حساسية متقاربة تقريبا تجاه هذا التلاعب. تدرب على بيانات متنوعة، ويقوم المتعلمون بتعميم القواعد على مواقف جديدة ("التعلم في السياق"). تدرب على بيانات زائدة، وهم يحفظون أمثلة محددة ("التعلم في الأوزان"). يحدث الانتقال بين الاستراتيجيات في نفس النقطة الحرجة (أس زيبف α ≈ 1) في كل من الأنظمة البيولوجية والاصطناعية. لا يمكن لأي منهما القيام بالأمرين بسهولة—حتى تعطيهم توزيعا مركبا يمزج بين التنوع والتكرار، وعندها يصبح كل من البشر والمحولات "متعلمين مزدوجين".
لكن هنا تختلف: البشر يستفيدون من المناهج. قدم أمثلة متنوعة مبكرا، وسيكتشف الناس القاعدة العامة دون فقدان القدرة على الحفظ لاحقا. أما المحولات، فعلى النقيض من تدخلات كارثية—فكل ما يتعلمونه ثانيا يكتب فوق ما جاء أولا.
الدلالة على الذكاء الاصطناعي والتعليم على حد سواء: هيكل بيانات التدريب مهم بقدر محتواها. وبينما قد تضاهي المتحولون التعلم البشري بطرق مفاجئة، إلا أنها تفتقر إلى المرونة التي تتيح لنا الاستفادة من المناهج المصممة جيدا.
الورقة:

56
الأفضل
المُتصدِّرة
التطبيقات المفضلة
