Presso @covenant_ai, abbiamo reso il RL decentralizzato per LLM così veloce come il RL centralizzato. Raggiungiamo oltre il 100× di riduzione della larghezza di banda per la sincronizzazione dei pesi. Completamente senza perdita. Ecco come lo abbiamo fatto! (1/n)