Det er 384 GB rask VRAM i Blackwell tinybox 🧵

Vi ble lei av å bruke leverandørverktøy for båndbreddetester, så vi skrev en universell i Tinygrad. GPU-ene er koblet til full PCIe 5.0 x16

Brenner-GEMM på et enkelt kort er 438 TFLOPS BF16 -> FP32. Det gir maskinen 1,75 PFLOPS reell GEMM-ytelse.

På makspunktet ligger vi på 3,1 PFLOPS på tvers av kortene. Her skinner mangelen på 5090-nerfingen virkelig frem, det er mer enn dobbelt så mange rå FLOPS som en tinybox grønn v2!

Alle våre Blackwell-bokser vil bli sendt med vårt nyeste RAID-oppsett. **55,3 GB/s** benchmarket lesebåndbredde, som er raskere enn RAM-en på de fleste mobiltelefoner.

Mens vi venter på gpu-frityren, her er Mmapeak. **3.1 PFLOPS** på tvers av kortene fp16 -> fp32. Her skinner mangelen på 5090-nerfingen virkelig frem, det er mer enn dobbelt så mange rå FLOPS som en tinybox grønn v2!

Her er den i klemmeansiktet/gpu-frityren. 2522W på full effekt, ingen Max-Q her!

Slutttemperaturene ved metning etter 15 minutter var 72°C, 80°C, 71°C og 76°C. Vi jobber fortsatt med viftepolitikken og kortoppsettet, kjølerne er annerledes enn det vi har jobbet med før. Men fraktmaskinen vil være *minst* så god.