Smooth DiLoCo: ( @aaron_defazio i in.) Alternatywa niedystrybuowana, z mniejszym obciążeniem pamięci (tylko jeden dodatkowy bufor) i ciągłą aktualizacją zamiast okresowej (dość gwałtownej) zewnętrznej aktualizacji klasycznego DiLoCo. Ciekawi mnie, jak to będzie wyglądać w wersji rozproszonej!