tinybox rossa v2! 4x9070XT, spina singola da 15A. A che prezzo stanno comprando le persone?

Larghezza di banda completa PCIe 4 x16 tra le 4 GPU. Processore EPYC a 32 core, 128 GB di RAM, 2TB NVMe.

In realtà, perché sto usando lo strumento di larghezza di banda di AMD? Ecco uno codificato in tinygrad. Il P2P completo tra le GPU è supportato sul driver AMD stock (a differenza di certe altre aziende verdi che lo bloccano perché sono cattive)

Buon supporto per dtype, 165 TFLOPS MMAPEAK per bf16 acc f32. 315 TFLOPS per fp8.

Buon supporto per i dtype, 165 TFLOPS MMAPEAK per bf16 acc f32. 315 TFLOPS per fp8. Questo è ovviamente per scheda.

Supporto completo per il driver AM di tinygrad, il che significa che puoi rmmod amdgpu e continua a funzionare! Python sta mappando le PCIe BAR nel processo e guidando direttamente la GPU.

AMD ha fatto un sacco di progressi con ROCm. La versione 7.1 è standard, insieme all'ultima PyTorch. 133 TFLOPS GEMM raggiunti su 165 MMAPEAK non è male, e il driver amdgpu sembra stabile su RDNA4!

tinygrad 13 line gpuburn! Massimizzando la potenza a 304W per scheda, l'alimentatore gestisce tutto alla grande ed è appena udibile in ufficio.

Ecco qui con amdgpu invece del driver AM. Non so di cosa parli riguardo allo stato di bassa potenza, quella è potenza massima, e guarda quelle temperature gelide dopo aver bruciato per 10 minuti!

Sembra una tinybox standard, bellissimo schermo frontale, grande pulsante cliccabile, cerchi calmanti.