V Blackwell tinyboxu 🧵 je 384 GB rychlé VRAM

Už nás nebavilo používat nástroje od dodavatelů pro testy šířky pásma, takže jsme v Tinygradu napsali univerzální verzi. GPU jsou připojeny na plný PCIe 5.0 x16

Pochodeň GEMM na jedné kartě je 438 TFLOPS BF16 -> FP32. To dává stroji 1,75 PFLOPS skutečného výkonu GEMM.

Na MMAPEAKu máme na kartách 3,1 PFLOPS. Tady je absence nerfování 5090 opravdu výrazná, je to více než dvojnásobek surových FLOPS oproti tinybox green v2!

Všechny naše Blackwell boxy budou dodávány s naší nejnovější RAID sestavou. **55,3 GB/s** benchmarkované šířky pásma čtení, což je rychlejší než RAM u většiny mobilních telefonů.

Zatímco čekáme na GPU fritézu, tady je mmapeak. **3.1 PFLOPS** přes karty fp16 -> fp32. Tady je absence nerfování 5090 opravdu výrazná, je to více než dvojnásobek surových FLOPS oproti tinybox green v2!

Tady je v huggingface/GPU fritéze. 2522W na plný výkon, tady žádný Max-Q!

Konečné teploty při saturaci po 15 minutách byly 72°C, 80°C, 71°C a 76°C. Stále pracujeme na politice ventilátorů a rozložení karet, chladiče jsou jiné než ty, se kterými jsme pracovali dříve. Ale přepravní stroj bude *alespoň* takhle dobrý.