Blackwell küçük kutusunda 🧵 384 GB hızlı VRAM var

Bant genişliği testleri için tedarikçi araçlarını kullanmaktan bıktık, bu yüzden tinygrad'da evrensel bir araç yazdık. GPU'lar tam PCIe 5.0 x16 sisteminde bağlanıyor

Tek karttaki meşale GEMM 438 TFLOPS BF16 -> FP32'dir. Bu da makinenin gerçek GEMM performansını 1.75 PFLOPS ile gösteriyor.

Mmapeak'te, kartlar boyunca 3.1 PFLOPS var. İşte 5090'ın zayıflatmasının olmaması gerçekten dikkat çekiyor; küçük bir yeşil v2'nin ham FLOP'larının iki katından fazla!

Tüm Blackwell kutularımız en son RAID dizimizle birlikte gönderilecek. **55.3 GB/s** ölçülü okuma bant genişliği, çoğu cep telefonundaki RAM'den daha hızlıdır.

GPU-fritöz'ü beklerken, işte mmapeak. **3.1 PFLOPS** kartlar arasında FP16 - > FP32. İşte 5090'ın zayıflatmasının olmaması gerçekten dikkat çekiyor; küçük bir yeşil v2'nin ham FLOP'larının iki katından fazla!

İşte huggingface/gpu-fritözde. Tam güçte 2522W, burada Max-Q yok!

15 dakika sonra doygunlukta son sıcaklıklar 72C, 80C, 71C ve 76C idi. Fan politikası ve kart düzeni üzerinde hâlâ çalışıyoruz, soğutucular daha önce çalıştığımızdan farklı. Ama kargo makinesi *en azından* bu kadar iyi olacak.