La Blackwell tinybox 🧵 tiene 384 GB de VRAM rápida

Nos cansamos de usar herramientas de proveedores para pruebas de ancho de banda, así que escribimos una universal en Tinygrad. Las GPUs están conectadas a PCIe 5.0 x16

El GEMM de la antorcha en una sola tarjeta es de 438 TFLOPS BF16 -> FP32. Eso sitúa a la máquina en 1,75 PFLOPS de rendimiento real GEMM.

En MMAPEAK, estamos en 3,1 PFLOPS en todas las carteles. Aquí es donde realmente destaca la falta de nerfeos de las 5090, ¡es más del doble de FLOPS brutos que una tinybox green v2!

Todas nuestras cajas Blackwell se enviarán con nuestra última matriz RAID. **55,3 GB/s** de ancho de banda de lectura comparado, que es más rápido que la RAM de la mayoría de los teléfonos móviles.

Mientras esperamos la freidora de GPU, aquí está el mmapeak. **3.1 PFLOPS** en las tarjetas fp16 -> fp32. Aquí es donde realmente destaca la falta de nerfeos de las 5090, ¡es más del doble de FLOPS brutos que una tinybox green v2!

Aquí está en la freidora de la GPU/huggingface. 2522W a máxima potencia, ¡no hay Max-Q por aquí!

Las temperaturas finales a saturación tras 15 minutos fueron 72°C, 80°C, 71°C y 76°C. Todavía estamos trabajando en la política de ventiladores y la disposición de las tarjetas, los refrigeradores son diferentes a los que hemos usado antes. Pero la máquina de envío será *al menos* tan buena.