NVIDIA hat einen potenziellen Wettbewerber übernommen. NVIDIA gab gestern Abend bekannt, dass sie eine Vereinbarung über 20 Milliarden Dollar in bar mit dem KI-Chip-Startup Groq getroffen haben. Natürlich sagte das Unternehmen auch: Es handelt sich nicht um die Übernahme von Groq, sondern lediglich um den Erwerb von Technologie-Lizenzen, und die Produkte von Groq werden in zukünftige Produkte integriert. Groq wurde 2016 von einer Gruppe ehemaliger Google-Ingenieure gegründet und ist das Kernteam hinter TPU, das sich auf das Design von Hochleistungs-KI-Beschleunigerchips spezialisiert hat. Mit diesem Schritt hat NVIDIA im Grunde genommen Google von hinten überholt und beginnt, die Anstrengungen im Bereich des Inferenz-Computings zu beschleunigen. In Bezug auf die Technologie-Richtung: 1) Entspricht es dem Wechsel von NVIDIA von einer einzigen GPU (Grafikprozessor) zu einem dualen Integrationsmodell „GPU + LPU“, wobei „allgemeine parallele Berechnung“ in „spezifische deterministische Inferenz“ übergeht. 2) Besonders im Speicherbereich, von HBM zu SRAM. HBM (High Bandwidth Memory) hat zwar eine große Kapazität, aber die Bandbreite ist begrenzt. Groqs LPU verlässt sich fast vollständig auf On-Chip-SRAM (statische Random-Access-Speicher), mit einer Bandbreite von bis zu 80 TB/s (etwa das 10-fache von HBM). Es gibt Aussagen, dass je stärker die Erzählung von Groq in der Zukunft wird, desto schwächer könnte die Erzählung über den Speicher werden. Dies sollte in Bezug auf die zukünftige Entwicklung der Speicherrechte beachtet werden.