Tam asenkron eğitmeni ana @grail_ai ağında başlattık, 7B modelini 🚀 eğittim Antrenman artık sürekli olarak tekrar oynatma tamponu üzerinden çalışıyor! İletişimi beklemek yok. Bu, 2k+ bağlamı açtı ve 1.5B→den 7B modellere ve ileride daha da büyük ölçeklenme imkanı verdi.

Az önce Grail-v0'ın ilk versiyonunu (grail-v0) nasıl yarattığımızla ilgili bir blog yazdım; bu, LLM'ler için tamamen açık, merkeziyetsiz bir RL eğitim sistemi. İlk türlerinden biri. Her şey kamuya: kod tabanı, eğitim döngüsü, canlı eğitim eğrileri, teşvikler, dağıtımlar. 🧵 1/4

🚀 @grail_ai'den Büyük Güncelleme! GRPO uygulamamızı tamamladık! GSM8K veri kümesi ve Qwen/Qwen2.5-1.5B-Instruct modeli üzerindeki ilk çalışmalarımız, SN81 ana ağı üzerinden düzgün bir şekilde eğitim aldığını ve çevrimiçi ödüllerin zaman içinde istikrarlı bir şekilde geliştiğini gösteriyor. 1/3 🧵