Blackwell Tinybox 🧵には384GBの高速VRAMがあります

ベンダーツールで帯域幅テストにうんざりしたので、tinygradでユニバーサルなものを書きました。GPUはフルPCIe 5.0 x16で接続されています

1枚のカードでのトーチGEMMは438 TFLOPS BF16 -> FP32です。これにより、実際のGEMM性能は1.75 PFLOPSとなります。

MMAPEAKでは、カード全体で3.1のPFLOPS(機能的成功率)を記録しています。ここで5090の弱体化がほとんどない点が真価を発揮します。TinyboxのGreen v2の生のFLOPSは2倍以上です!

当社のすべてのBlackwellボックスは最新のRAIDアレイで出荷されます。**55.3 GB/s**のベンチマーク読み取り帯域幅は、ほとんどの携帯電話のRAMよりも速いです。

GPUフライヤーを待っている間に、こちらがmmapeakです。**3.1 PFLOPS** カード全体で FP16 -> FP32。ここで5090の弱体化がほとんどない点が真価を発揮します。TinyboxのGreen v2の生のFLOPSは2倍以上です!

こちらはハギングフェイス/GPUフライヤーの中にあります。フルパワーで2522W、ここにはMax-Qはない!

15分後の飽和時の最終気温は72°C、80°C、71°C、76°Cでした。ファンの方針やカードの配置はまだ調整中で、クーラーは以前扱ったものとは違います。でも配送機は少なくともこれくらいの性能はあるはずです。