У Blackwell tinybox 🧵 є 384 ГБ швидкої VRAM

Нам набридло використовувати інструменти постачальників для тестування пропускної здатності, тому ми написали універсальний інструмент у tinygrad. GPU підключені на повному PCIe 5.0 x16

Факел GEMM на одній платі становить 438 TFLOPS BF16 -> FP32. Це дає 1,75 PFLOPS реальної продуктивності GEMM.

На mmapeak у нас 3,1 PFLOPS по всіх картах. Ось де відсутність ослаблення 5090 справді проявляється — це більш ніж удвічі кращий за сирий FLOPS, ніж у tinybox-green v2!

Усі наші коробки Blackwell постачатимуться з нашим останнім RAID-масивом. **55,3 ГБ/с** бенчмаркованої пропускної здатності читання, що швидше за оперативну пам'ять більшості мобільних телефонів.

Поки чекаємо на відеофритюрницю, ось mmapeak. **3.1 PFLOPS** по всіх картах fp16 -> fp32. Ось де відсутність ослаблення 5090 справді проявляється — це більш ніж удвічі кращий за сирий FLOPS, ніж у tinybox-green v2!

Ось вона у грі для обіймаючої гри чи відеокарті. 2522W на повній потужності, тут немає Max-Q!

Остаточні температури насичення після 15 хвилин були 72°C, 80°C, 71°C і 76°C. Ми все ще працюємо над політикою вентиляторів і розташуванням карт, охолоджувачі відрізняються від тих, з якими ми працювали раніше. Але транспортна машина буде *принаймні* такою хорошою.