Einige grundlegende SRAM-Fakten, um Sie auf die bevorstehende Hype-Ära vorzubereiten und Ihnen zu helfen, den Lärm zu durchdringen: 1. Sie können SRAM nicht von einem Lieferanten beziehen. Es wird zusammen mit dem Rest der CPU/GPU auf dem Chip gebaut. 2. Die SRAM-Kapazität ist sehr gering. Der Chip von Groq hat etwa 256 MB. Jeder HBM-Stapel hat über 20 GB. 3. Auf Basis pro GB ist SRAM immer noch teurer als HBM oder irgendein DRAM, in JEDEM Markt. 4. Es ist der schnellste mögliche Speicher, weil Sie nicht vom Chip weggehen müssen. 5. Inferencing benötigt viel Speicher. Ein Kimi K2-Modell benötigt etwa 1 TB. Sie können zählen, wie viele Groq-Chips Sie mit 256 MB SRAM für das Inferencing benötigen. 6. Sie können SRAM nicht dichter machen, da die Strukturgrößen bereits an Grenzen gestoßen sind. Einige Verbesserungen sind mit CFETs (gestapelte Transistoren in 3D) möglich, aber das ist noch sehr weit von der Produktion entfernt. 7. Der Stromverbrauch in SRAM ist gering, weil Sie nicht vom Chip weggehen müssen. 8. Schließlich kann SRAM HBM nicht einfach für alle Anwendungsfälle ersetzen. Es hat seine spezifischen Anwendungen.