L'acquisizione di Groq da parte di Nvidia per 20 miliardi di dollari è un grande affare. I chip Groq sono incredibilmente veloci nell'inferenza, a volte 10 volte più veloci delle GPU. Il trucco è mettere i pesi del modello nella SRAM invece che nell'HBM per scambiare capacità di memoria con velocità. Il suo $/token potrebbe perdere contro le GPU, ma per l'inferenza a lungo attesa su modelli come GPT-5.2 Pro, la velocità conta. Se fossi Sam Altman, lo comprerei. 20 miliardi di dollari sono pochi. Jensen ha fatto la scelta giusta.
Wow, quindi è fondamentalmente un acqui-hire. Nvidia ha appena assunto i co-fondatori di Groq, incluso Jonathan, il co-creatore dei TPU di Google. Simile agli accordi tra Meta <-> Scale AI (Alexander Wang) e Google <-> Windsurf.
137