Algunos datos básicos sobre SRAM para prepararte para la próxima era de hype y ayudarte a cortar el ruido: 1. No puedes obtener SRAM de un proveedor. Se construye en el chip junto con el resto de la CPU/GPU. 2. La capacidad de SRAM es muy baja. El chip de Groq tiene alrededor de 256MB. Cada pila de HBM supera los 20GB. 3. En términos de costo por GB, SRAM sigue siendo más caro que HBM o cualquier DRAM, en CUALQUIER mercado. 4. Es la memoria más rápida posible porque no tienes que salir del chip. 5. La inferencia requiere mucha memoria. Un modelo Kimi K2 necesita alrededor de 1TB. Puedes contar cuántos chips Groq necesitarás con 256 MB de SRAM para la inferencia. 6. No puedes hacer que la SRAM sea más densa porque los tamaños de las características ya han alcanzado límites. Algunas mejoras son posibles con CFETs (transistores apilados en 3D), pero eso está muy lejos de la producción. 7. El consumo de energía en SRAM es bajo porque no tienes que salir del chip. 8. Finalmente, la SRAM no puede simplemente desplazar a la HBM para todos los casos de uso. Tiene sus aplicaciones específicas.