En @covenant_ai, hicimos RL descentralizado para LLMs tan rápido como RL centralizado. Conseguimos una reducción de ancho de banda superior al 100× para sincronizar el peso. Completamente sin pérdidas. ¡Así es como lo hicimos! (1/n)