⭐️ π₀-FAST artık LeRobot'ta ⭐️ @LeRobotHF'daki en son çalışmamı paylaşmak için heyecanlıyım: π₀-FAST'ı tamamen yığına katmak. Orijinal Pi-FAST uygulaması sadece JAX'ta mevcuttu, bu yüzden π₀'den itibaren çapraz entropi kaybı hedefi, FAST tokenizasyon şeması ve KV-önbellekleme gibi çıkarım optimizasyonları dahil olmak üzere PyTorch'ta yeniden inşa ettik. π₀-FAST, @physical_int tarihine kadar en gelişmiş otoregressif Görme-Dil-Eylem modelidir. Sürekli eylemleri ayrı tokenlara dönüştüren (JPEG sıkıştırması gibi) yerleşik bir işlem tokenizeri olan FAST içerir. Bu da π₀-FAST'ın LLM tarzı next-token tahminiyle eğitilebileceği anlamına gelir. Her şey token olduğunda, topluluk için birçok kapı açılır: > π₀-FAST'ı veri setleri, beden sembolleri ve hatta yeni token türleri (sınırlayıcı kutular, dil, propriosepsiyon; hepsi token) arasında bir sonraki token hedefiyle kolayca önceden eğitin. Bir sonraki token tahmin treni difüzyon veya akış eşleştirmesinden ~5× daha hızlı çalışıyor. > Aynı ağırlıkları tekrar kullanın ve hedef görevinizde akış eşleştirme hedefiyle ince ayar yapın, böylece daha hızlı çıkarım yapabilirsiniz. Ayrıca 'lerobot-train-tokenizer' komutunu kullanarak herhangi bir LeRobot veri setinde kendi FAST tokenizer'ınızı da eğitebilirsiniz. Çok havalı. Sistemler tarafında, çıkarımda LLM tarzı KV-önbellekleme ekledik, bu da otomatik regressif kodlama için ~5× hız sağlıyor. LIBERO'da değerlendirme yaptık ve %82,5 başarıya ulaştık @ 40k adım (geçen yıl ilk portlandığında ~%40 oranından). Bu, hibrit AR + akış eşleştirme tarifleri ve LeRobot içinde π₀.₅ tarzı bilgi yalıtımı için zemin hazırlıyor. 👉 Belgeler: 🤖 Pi0Fast temel kontrol noktası: