بحث جوجل أظهر للتو اختراقين في نمذجة التسلسل: 🔹العمالقة، بنية ذاكرة عصبية عميقة 🔹MIRAS، إطار موحد لذاكرة الذكاء الاصطناعي طويلة الأمد. يتعلم Titans ويحدث الذاكرة بسرعة باستخدام "مقياس مفاجأة" لالتقاط المعلومات الجديدة الأكثر أهمية فقط. يوفر MIRAS المخطط: تحسين الوقت الحقيقي، تدهور الذاكرة، ودوال فقدان غير إقليدية تتفوق على ترانسفورمرز ومامبا في المهام الطويلة جدا التي تصل إلى 2M+ توكن. تفوق Titans على GPT-4 في اختبارات السياق الطويلة الشديدة مثل BABILong باستخدام معلمات أقل بكثير.