Templar baru saja melatih model 72 miliar parameter melalui Internet komoditas dengan 70+ peserta. Ini adalah upaya pra-pelatihan terdesentralisasi terbuka terbesar yang pernah ada. Pengoptimal Loco Loco mereka yang jarang mengompresi data 146x, memungkinkan koneksi rumah tangga untuk berkontribusi. Terobosan nyata bagi @tplr_ai adalah mendapatkan orang asing yang tidak tepercaya untuk melatih model tanpa curang, berkat sistem validasi Gauntlet mereka. Tapi masih membutuhkan 8x GPU B200 (~$250k) untuk berpartisipasi. Ini adalah bukti konsep untuk operator yang bermodal baik ... untuk saat ini Pelatihan terdesentralisasi suatu hari nanti dapat mencapai model perbatasan, tetapi hanya jika penghalang perangkat keras turun secara signifikan.