Nucleul 6 poate exprima toată mișcarea.

Sintaxa este încă puțin greoaie, dar în curând straturile LLM, acumularea de gradiente și buclele de antrenament nu vor mai fi scrise cu Python pentru bucle. Parafrazând Haloide: "separați specificația de compilarea și detaliile de programare", cu excepția faptului că vom specifica curse întregi de antrenament de 100 de milioane de dolari.

Linia @__tinygrad__ tinybox devine legitimă. Cinci construite până acum săptămâna aceasta.

să elimini NVIDIA? 🤨 noi ❤️ NVIDIA! Tinybox Green V2 with 4x5090 se livrează acum

Acum cu fuziune în buclă și fără recalculare. Dacă puteți construi un "compilator" din care să piardă atenția, imaginați-vă ce altceva ar putea fuziona.

Când specificațiile lui tinygrad sunt gata, vreau să se simtă ca și cum ar veni din CARTE. Aceasta nu este inginerie, aceasta este inginerie inversă a naturii.

Toate comenzile restante vor fi livrate până la sfârșitul săptămânii. Construim un lot întreg de cutii verzi (legate de poze), comandați astăzi și le veți avea pe ale voastre în curând! (mai avem și o singură cutie roșie. ar trebui să o cumpărați, a așteptat ceva timp să meargă la o casă bună)

.@AMD @AnushElangovan Puteți deschide rocprof-trace-decoder? Acest depozit este doar un binar Linux: Îl folosim pentru a adăuga funcționalități asemănătoare RGP la VIZ: OSS îl va face portabil pe Mac și (sperăm) va avea un antet cu API-ul.

Biblioteca ta de transformatoare fuzionează FFN într-un singur nucleu "flash"? Cred că sunt posibile câștiguri masive, curios care este practica obișnuită și cercetarea SOTA?

Acest lucru îngroapă puțin lede, adică cu o schimbare minoră puteți face și ReLU(A @ B) @ C pe matrice NxN cu N intermediari și fără recalculare. (Aka: o rețea neuronală.)