Quelques faits de base sur la SRAM pour vous préparer à la prochaine ère de l'engouement et vous aider à couper à travers le bruit : 1. Vous ne pouvez pas vous procurer de la SRAM auprès d'un fournisseur. Elle est intégrée dans la puce avec le reste du CPU/GPU. 2. La capacité de la SRAM est très faible. La puce de Groq a environ 256 Mo. Chaque pile HBM dépasse 20 Go. 3. Sur une base par Go, la SRAM est toujours plus chère que l'HBM ou tout DRAM, dans TOUS les marchés. 4. C'est la mémoire la plus rapide possible car vous n'avez pas besoin de sortir de la puce. 5. L'inférence nécessite beaucoup de mémoire. Un modèle Kimi K2 prend environ 1 To. Vous pouvez compter combien de puces Groq vous aurez besoin avec 256 Mo de SRAM pour l'inférence. 6. Vous ne pouvez pas rendre la SRAM plus dense car les tailles de caractéristiques ont déjà atteint des limites. Certaines améliorations sont possibles avec les CFET (transistors empilés en 3D), mais cela est encore très loin de la production. 7. La consommation d'énergie dans la SRAM est faible car vous n'avez pas besoin de sortir de la puce. 8. Enfin, la SRAM ne peut pas simplement remplacer l'HBM pour tous les cas d'utilisation. Elle a ses applications spécifiques.