Kilka podstawowych faktów o SRAM, które przygotują cię na nadchodzącą erę hype i pomogą przebić się przez szum: 1. Nie możesz pozyskać SRAM od dostawcy. Jest on budowany na chipie razem z resztą CPU/GPU. 2. Pojemność SRAM jest bardzo niska. Chip Groq ma około 256MB. Każda stos HBM ma ponad 20GB. 3. Na podstawie GB, SRAM jest nadal droższy niż HBM czy jakikolwiek DRAM, w DOWOLNYM rynku. 4. To najszybsza pamięć, jaką można uzyskać, ponieważ nie musisz wychodzić poza chip. 5. Inferencja wymaga dużo pamięci. Model Kimi K2 zajmuje około 1TB. Możesz policzyć, ile chipów Groq będziesz potrzebować z 256 MB SRAM do inferencji. 6. Nie możesz uczynić SRAM gęstszy, ponieważ rozmiary cech już osiągnęły limity. Pewne poprawy są możliwe z CFET (stakowane tranzystory w 3D), ale to jest bardzo daleko od produkcji. 7. Zużycie energii w SRAM jest niskie, ponieważ nie musisz wychodzić poza chip. 8. Wreszcie, SRAM nie może po prostu zastąpić HBM we wszystkich zastosowaniach. Ma swoje specyficzne zastosowania.