Tinybox merah v2! 4x9070XT, steker 15A tunggal. Berapa harga yang dibeli orang?

PCIe bandwidth penuh 4 x16 di antara 4 GPU. Prosesor EPYC 32 inti, ram 128 GB, NVMe 2TB.

Sebenarnya mengapa saya menggunakan alat bandwidth AMD? Berikut adalah getaran berkode di tinygrad. P2P penuh antara GPU didukung pada driver AMD stok (tidak seperti perusahaan hijau tertentu lainnya yang memblokirnya karena mereka jahat)

Dukungan dtype yang baik, 165 TFLOPS MMAPEAK untuk bf16 acc f32. 315 TFLOPS untuk fp8.

Dukungan dtype yang baik, 165 TFLOPS MMAPEAK untuk bf16 acc f32. 315 TFLOPS untuk fp8. Ini tentu saja per kartu.

Dukungan penuh untuk driver tinygrad AM, artinya Anda dapat rmmod amdgpu dan masih berfungsi! Python memetakan PCIe BAR ke dalam proses dan langsung menggerakkan GPU.

AMD telah membuat banyak kemajuan dengan ROCm. Versi 7.1 hadir standar, bersama dengan PyTorch terbaru. 133 mencapai GEMM TFLOPS dari 165 MMAPEAK tidak buruk, dan driver amdgpu tampaknya stabil di RDNA4!

Tinygrad 13 baris gpuburn! Memaksimalkan daya pada 304W per kartu, PSU menanganinya dengan baik dan hampir tidak terdengar di kantor.

Ini dengan amdgpu, bukan driver AM. tidak tahu apa yang ada tentang status daya rendah, itu adalah daya maksimal, dan lihat suhu dingin itu setelah terbakar selama 10 menit!

Terlihat seperti kotak kecil masalah standar, layar depan yang indah, tombol klik besar, lingkaran yang menenangkan.