Derin öğrenme teorisi/biliminin amacı, pratiğe yol göstermektir. Ama çoğu pratik soru, teori tarafından meşru şekilde yanıtlanmak için >1 makale uzaklıkta. O halde, "bu teori bize bir SOTA algoritması veriyor mu?" gibi ideal ödül sinyaline erişim olmadan nasıl ilerleme kaydedebiliriz?

Tam toplu gradyanlarda bile, DL optimize ediciler, *kararlılığın sınırında* çalıştıkları için klasik optimizasyon teorisine meydan okurlar. @alex_damian_ ile "merkezi akışları" tanıtıyoruz: gerçek NN'ler üzerinde doğru nicel tahminler yapan bu dinamikleri analiz etmek için teorik bir araç.