Na @covenant_ai, tornámos o RL descentralizado para LLMs tão rápido quanto o RL centralizado. Conseguimos uma redução de largura de banda de mais de 100× para a sincronização de pesos. Totalmente sem perdas. Aqui está como fizemos isso! (1/n)