一些基本的SRAM事实,帮助你为即将到来的炒作时代做好准备,并帮助你穿透噪音: 1. 你无法从供应商那里获取SRAM。它是与CPU/GPU的其余部分一起在芯片上构建的。 2. SRAM的容量非常低。Groq的芯片大约有256MB。每个HBM堆栈超过20GB。 3. 按每GB计算,SRAM在任何市场上仍然比HBM或任何DRAM更贵。 4. 它是可能的最快内存,因为你不需要离开芯片。 5. 推理需要大量内存。一个Kimi K2模型大约需要1TB。你可以计算出需要多少个256MB SRAM的Groq芯片来进行推理。 6. 你无法使SRAM更密集,因为特征尺寸已经达到了极限。使用CFET(3D堆叠晶体管)可能会有一些改进,但离生产还有很远。 7. SRAM的功耗低,因为你不需要离开芯片。 8. 最后,SRAM不能仅仅取代HBM用于所有用例。它有其特定的应用。