Kami baru saja merilis model + laporan teknis untuk Covenant-72B. LLM terbesar yang pernah dilatih sebelumnya pada infrastruktur yang sepenuhnya terdesentralisasi. Parameter 72B dilatih melalui internet terbuka dengan GPU tanpa izin. Ini adalah langkah besar untuk membuat pra-pelatihan terdesentralisasi benar-benar praktis. Pekerjaan luar biasa oleh tim @covenant_ai.