في الأسبوع الماضي ، أسقطت Karpathy دليل ULTIMATE للجري السريع في طريقك إلى LLMs في هذا المشروع ، ستقوم ببناء جميع الأساسيات ، وكلها أقل من 8 آلاف سطر من التعليمات البرمجية > تدريب الرمز المميز - تنفيذ RUST جديد > التدريب المسبق لمحول LLM على fineweb > تقييم النتيجة الأساسية عبر مجموعة من المقاييس > منتصف القطار - محاكاة مساعد المستخدم من Smoltalk ، > الاختيار من متعدد Qs ، استخدام الأداة > sft ، ثم قم بتقييم نموذج الدردشة على: > المعرفة العالمية MCQ (arc-e / c ، mmlu) > الرياضيات (GSM8K) كود > (الإنساني) > النموذج (اختياريا) على GSM8K باستخدام "grpo" > الاستدلال الفعال: ذاكرة تخزين مؤقت > كيلو فولت ، تعبئة / فك تشفير سريعة استخدام أداة > (مترجم بايثون ، وضع حماية) > الوصول عبر واجهة سطر الأوامر (CLI) أو واجهة مستخدم الويب الشبيهة ب ChatGPT > كتابة بطاقة تقرير تخفيض واحدة ، > تلخيص + التلعيب في خط الأنابيب بأكمله النموذج الذي ستقوم بإنشائه: > دوار فقط (بدون تضمينات موضعية) > معيار QK...