В Blackwell tinybox есть 384 ГБ быстрой видеопамяти 🧵

Нам надоело использовать инструменты поставщиков для тестирования пропускной способности, поэтому мы написали универсальный инструмент в tinygrad. GPU подключены на полную скорость PCIe 5.0 x16

Торч GEMM на одной карте составляет 438 TFLOPS BF16 -> FP32. Это ставит машину на уровень 1.75 PFLOPS реальной производительности GEMM.

В mmapeak у нас 3.1 PFLOPS на картах. Вот где отсутствие нерфа 5090 действительно проявляется, это более чем вдвое превышает сырые FLOPS tinybox green v2!

Все наши коробки Blackwell будут отправляться с нашим последним массивом RAID. **55.3 ГБ/с** проверенной скорости чтения, что быстрее, чем ОЗУ на большинстве мобильных телефонов.

Пока мы ждем gpu-fryer, вот mmapeak. **3.1 PFLOPS** на картах fp16 -> fp32. Здесь отсутствие нерфа 5090 действительно проявляется, это более чем вдвое превышает сырые FLOPS tinybox green v2!

Вот он в huggingface/gpu-fryer. 2522W при полной мощности, здесь нет Max-Q!

Конечные температуры при насыщении через 15 минут составили 72°C, 80°C, 71°C и 76°C. Мы все еще работаем над политикой вентиляторов и компоновкой карт, кулеры отличаются от тех, с которыми мы работали ранее. Но машина для отгрузки будет *по крайней мере* такой же хорошей.