В @covenant_ai мы сделали децентрализованное RL для LLM так же быстрым, как централизованное RL. Мы достигаем более чем 100-кратного сокращения пропускной способности для синхронизации весов. Полностью без потерь. Вот как мы это сделали! (1/n)