2025 sonu DeepProve için büyük bir dönüm noktası oldu; kanıtlama sistemi tek düğümlü bir ispatlayıcıdan, gerçek dünya çıkarım iş yükleri için tasarlanmış dağıtık, GPU hızlandırmalı bir zkML sistemine yükseltildi. Tam mühendislik güncellemesini aşağıdaki bağlantıdan okuyabilirsiniz: 🧵
2/ DeepProle'u dağıtık bir uygulama grafiği etrafında yeniden mimari olarak oluşturduk. Monolitik bir ispatlayıcı yerine, kanıtlama mantığı artık makineler arasında bölünüp eşzamanlı çalıştırılabilen paralelleştirilebilir alt grafikler olarak ifade edilmektedir. Bu, proof üretimi için yatay ölçeklendirmeyi açar.
3/ Doğrusal cebir artık einsum-önceliklidir. Tüm lineer katmanlar, yoğun ve QKV projeksiyonları dahil, açık einsum formülasyonları altında birleştirilmiş ve keyfi tensör sıralarını desteklemiştir. Sonuç olarak: daha basit bir kod tabanı, daha az özel katman ve gelecekteki model mimarileri için daha fazla esneklik.
4/ Büyük bir darboğaz, doğrusal olmayan katmanlar, softmax, ReLU, GELU, katman normu ve daha fazlasını yöneten, yerleşik requantizasyon içeren tek bir genelleştirilmiş Lookup katmanı ekleyerek çözdük. Yani daha az katman, daha az üst yük ve daha iyi performans.
5/ Performans ölçeklendiğinde doğruluk korundu. PyTorch FP32 ile karşılaştırıldığında: • GPT-2 %<1 şaşkınlık deltası gösteriyor • Gemma-3 ~%4 şaşkınlık deltası gösteriyor DeepProle, daha ağır optimizasyon altında bile yüksek sayısal isabet sağlar.
6/ Inference artık önbelleğe uygun ve GPU tabanlı bir sistem. Ekledik: • Uzun diziler için konumsal önbellekler • K/V yeniden kullanımı için tensör birleştirme önbellekleri Tüm katmanlar artık GPU üzerinde çalışıyor, bu da iyimser kanıtlama imkanı sağlıyor: sonuçlar hemen döner, kanıtlar asenkron olarak takip eder.
7/ Veri taşımacılığı önemli bir dönüm noktasına ulaştı. Uçtan uca darboğaz analizi ve optimizasyonun ardından DeepProve artık saniyede ~1.5 ispat sağlıyor. Bu, zkML'nin sadece çevrimdışı veya toplu iş yükleriyle değil, pratik çıkarımla da aynı seviyeye ayak uydurabildiğini doğrular.
8/ Özet; DR: 2025'in 4. çeyreği, DeepProve'u üretim ölçekli mimaride yeni bir seviyeye taşıdı. Dağıtık kanıtlama, GPU yürütme, iyimser kanıtlar ve sürekli veri taşıma artık gerçek ve ölçeklenebilir hale gelmiş, doğrulanabilir yapay zeka için gerekli temelleri oluşturmaktadır. Daha fazlası yakında gelecek.
432