Nvidia har skaffet potensielle konkurrenter, og kunngjorde i går kveld en kontantavtale på 20 milliarder dollar med AI-brikkeoppstarten Groq. Selvfølgelig sa også tjenestemannen: det er ikke for å kjøpe selskapet Groq, men for å skaffe teknologilisenser og integrere Groqs produkter i fremtidige produkter. Groq ble grunnlagt i 2016 av en gruppe tidligere Google-ingeniører, og er kjerneteamet i TPU, med fokus på design av høyytelses AI-akseleratorbrikker. Nvidias trekk er å kopiere Googles bakre del og begynne å akselerere sine resonnementarbeid. Når det gjelder teknisk løsning, 1) tilsvarer det at NVIDIA går fra én GPU (grafikkprosessor) til en dobbelspors fusjonsmodus med «GPU + LPU», og «generell parallell databehandling» til «dedikert deterministisk resonnement». 2) Spesielt i lagringsveien, fra HBM til SRAM, HBM (High Bandwidth Video Memory), selv om kapasiteten er stor, er båndbredden begrenset. Groqs LPU-er er nesten utelukkende avhengige av on-chip SRAM (Static Random Memory) med en båndbredde på opptil 80 TB/s (omtrent 10 ganger så mye som HBM). Siden det finnes et ordtak, jo sterkere Groq-narrativet blir i fremtiden, desto svakere vil lagringsnarrativet sannsynligvis være. Denne trenden med lagringsopphavsrett må tas hensyn til.