tinybox red v2! 4x9070XT, jedna 15A zástrčka. Za jakou cenu lidé nakupují?

Plná šířka pásma PCIe 4 x16 mezi 4 GPU. 32jádrový procesor EPYC, 128 GB RAM, 2 TB NVMe.

Proč vlastně používám nástroj pro šířku pásma od AMD? Tady je vibrace kódovaná v tinygradu. Plné P2P mezi GPU je podporováno na základním ovladači AMD (na rozdíl od některých jiných zelených společností, které jej blokují, protože jsou zlé)

Dobrá podpora dtype, 165 TFLOPS MMAPEAK pro bf16 acc f32. 315 TFLOPS pro FP8.

Dobrá podpora dtype, 165 TFLOPS MMAPEAK pro bf16 acc f32. 315 TFLOPS pro FP8. To je samozřejmě na kartu.

Plná podpora ovladače tinygrad AM, což znamená, že můžete stisknout amdgpu a stále funguje! Python mapuje PCIe BAR do procesu a přímo pohání GPU.

AMD udělalo s ROCm obrovský pokrok. Verze 7.1 je standardně dodávána spolu s nejnovějším PyTorchem. 133 dosažených GEMM TFLOPS ze 165 MMAPEAKu není špatné a ovladač amdgpu se zdá být na RDNA4 stabilní!

tinygrad 13 linka gpuburn! Napájecí zdroj s maximálním výkonem 304 W na kartu to zvládá skvěle a v kanceláři je sotva slyšet.

Zde je to s amdgpu místo AM driveru. Idk, o čem to je o stavu nízké spotřeby, to je maximální výkon, a podívejte se na ty mrazivé teploty po 10 minutách hoření!

Vypadá to jako standardní tinybox, krásná přední obrazovka, velké klikací tlačítko, uklidňující kruhy.