Smooth DiLoCo: (@aaron_defazio ve diğerleri) Daha az bellek yükü (sadece bir ekstra tampon var) ve klasik DiLoCo'nun periyodik (oldukça şiddetli) dış güncellemesi yerine sürekli güncelleme olan dağıtılmayan alternatif. Dağıtıma genişletilmesini merak ediyorum!