المواضيع الرائجة
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
شخص ما تجاوز محرك Neural Engine من آبل لتدريب النماذج.
تم تصميم محرك Neural Engine داخل كل جهاز Mac من سلسلة M ليكون استنتاجا.
استخدم عارضات الأزياء، لا تدربها. لا توجد واجهة برمجة تطبيقات عامة، ولا وثائق، وبالتأكيد لا يوجد انتشار عكسي.
على أي حال، قام باحث بعكس هندسة واجهات برمجة التطبيقات الخاصة وبنى حلقة تدريب على المحولات تمر بتمريرات ذهابا وإيابا مباشرة على أجهزة ANE.
تتجاوز الطريقة CoreML تماما.
بدلا من استخدام أدوات آبل الرسمية، يقوم المشروع ببناء برامج بلغة MIL (لغة النموذج الوسيطة)، ويجمعها في الذاكرة باستخدام واجهات برمجة تطبيقات '_ANEClient' غير موثقة، ويغذي البيانات عبر مخازن ذاكرة مشتركة على IOSurface.
الأوزان تدمج في البرامج المجمعة كثواب. E
تقوم خطوة التدريب في ACH بإرسال ست نوى مخصصة: الانتباه للأمام، التغذية الأمامية للأمام، ثم أربع تمريرات للخلف تحسب التدرجات بالنسبة للمدخلات.
لا تزال تدرجات الوزن تعمل على المعالج باستخدام مكتبات المصفوفات الخاصة ب Accelerate، لكن العمل الشاق (مضاعفات المصفوفة، softmax، وظائف التفعيل) يحدث على جهاز ANE.
هذا يجعل ثلاثة أشياء ممكنة لم تكن ممكنة من قبل:
1. تدريب النماذج الصغيرة محليا دون استهلاك البطارية
2. الضبط الدقيق على الجهاز دون إرسال البيانات إلى خادم أو تشغيل وحدة معالجة الرسوميات
3. البحث في ما يمكن أن تفعله أجهزة ANE فعليا عندما تتجاهل حواجز آبل
إذا توسع هذا النهج، فإن الموجة التالية من الذكاء الاصطناعي على الجهاز ستتوقف عن تشغيل نموذج مجمد لشخص آخر.
الأفضل
المُتصدِّرة
التطبيقات المفضلة
