Alcuni fatti di base su SRAM per prepararti all'imminente era di hype e aiutarti a tagliare attraverso il rumore: 1. Non puoi ottenere SRAM da un fornitore. Viene costruita sul chip insieme al resto della CPU/GPU. 2. La capacità della SRAM è molto bassa. Il chip di Groq ha circa 256MB. Ogni stack HBM supera i 20GB. 3. Su base per GB, la SRAM è ancora più costosa dell'HBM o di qualsiasi DRAM, in QUALSIASI mercato. 4. È la memoria più veloce possibile perché non devi uscire dal chip. 5. L'inferenza richiede molta memoria. Un modello Kimi K2 richiede circa 1TB. Puoi contare quanti chip Groq ti serviranno con 256 MB di SRAM per l'inferenza. 6. Non puoi rendere la SRAM più densa perché le dimensioni delle caratteristiche hanno già raggiunto i limiti. Alcuni miglioramenti sono possibili con i CFET (transistor impilati in 3D), ma siamo molto lontani dalla produzione. 7. Il consumo energetico nella SRAM è basso perché non devi uscire dal chip. 8. Infine, la SRAM non può semplicemente sostituire l'HBM per tutti i casi d'uso. Ha le sue applicazioni specifiche.