¡tinybox red v2! 4x9070XT, enchufe único de 15A. ¿A qué precio compra la gente?

PCIe 4 x16 de ancho de banda completo entre las 4 GPU. Procesador EPYC de 32 núcleos, 128 GB de ram, NVMe de 2 TB.

En realidad, ¿por qué estoy usando la herramienta de ancho de banda de AMD? Aquí hay una vibración codificada en tinygrad. El P2P completo entre las GPU es compatible con el controlador AMD de serie (a diferencia de otras empresas ecológicas que lo bloquean porque son malas)

Buen soporte dtype, 165 TFLOPS MMAPEAK para bf16 acc f32. 315 TFLOPS para fp8.

Buen soporte dtype, 165 TFLOPS MMAPEAK para bf16 acc f32. 315 TFLOPS para fp8. Esto es, por supuesto, por tarjeta.

Soporte completo para el controlador tinygrad AM, lo que significa que puede rmmod amdgpu y todavía funciona. Python está mapeando las BAR PCIe en el proceso y controlando directamente la GPU.

AMD ha progresado mucho con ROCm. La versión 7.1 viene de serie, junto con la última versión de PyTorch. 133 TFLOPS GEMM logrados de 165 MMAPEAK no está mal, ¡y el controlador amdgpu parece estable en RDNA4!

¡Tinygrad 13 Line Gpuburn! Con una potencia máxima de 304 W por tarjeta, la fuente de alimentación lo maneja muy bien y apenas se escucha en la oficina.

Aquí está con amdgpu en lugar del controlador AM. No sé de qué se trata sobre el estado de bajo consumo, eso es la potencia máxima, ¡y mira esas temperaturas gélidas después de quemar durante 10 minutos!

Parece una caja pequeña estándar, hermosa pantalla frontal, gran botón de clic, círculos relajantes.