لدينا نموذج HY-1.8B-2Bit مفتوح المصدر، وهو نموذج لغوي كبير عالي الكفاءة بتقنية 2-بت مصمم للنشر على الجهاز. يقوم هذا النموذج بتقليص قاعدة 1.8 بايت إلى مساحة فعالة بمقدار 0.3 ميجابايت، مما يتطلب فقط 600 ميجابايت من التخزين، مما يجعله أصغر من العديد من تطبيقات الهواتف المحمولة. 🔹 استراتيجية البت الفائق المنخفض: تستخدم تدريب QAT (التدريب الواعي بالكمم) للوصول إلى تمثيل 2-بت (حجم مكافئ للبت 0.3 بيت). 🔹 التفكير المزدوج في الفكر: يحتفظ بقدرات متطورة في سلسلة التفكير المزدوجة رغم تقليل الدقة بشكل جذري. 🔹 الأداء: تعبئة مبدئية أسرع ب 3-8 مرات على Apple M4 وMediaTek Dimensity 9500; 2-3 مرات أسرع في توليد الرموز على الجهاز. 🔹 مكاسب المرجع: تحقق متوسط دقة 17٪ مقارنة بالنماذج ذات الحجم المماثل. 🔹 تآزر الأجهزة: محسن لصالح Arm SME2 والسيليكون الاستهلاكي الحديث. يتوفر HY-1.8B-2Bit الآن بصيغة GGUF للتكامل السلس في محركات الاستدلال المعتمدة على الحافة. صفحة المشروع: الأوزان: نسخة GGUF: التقرير الفني: