Nvidia, die Groq für 20 Milliarden Dollar übernimmt, ist eine große Sache. Groq-Chips sind bei der Inferenz wahnsinnig schnell, manchmal 10x schneller als GPUs. Der Trick besteht darin, die Modellgewichte in SRAM anstelle von HBM zu speichern, um Speicherkapazität gegen Geschwindigkeit zu tauschen. Sein $/Token könnte gegen GPUs verlieren, aber bei langen Wartezeiten für Inferenz auf Modellen wie GPT-5.2 Pro zählt die Geschwindigkeit. Wenn ich Sam Altman wäre, würde ich es kaufen. 20 Milliarden Dollar sind günstig. Jensen hat die richtige Entscheidung getroffen.

Wow, es ist also im Grunde ein Acqui-Hire. Nvidia hat gerade die Mitbegründer von Groq übernommen, einschließlich Jonathan, dem Mitbegründer der Google TPUs. Ähnlich wie die Deals zwischen Meta <-> Scale AI (Alexander Wang) und Google <-> Windsurf.