NVIDIA ha acquisito un potenziale concorrente, annunciando ieri sera un accordo da 20 miliardi di dollari in contante con la startup di chip AI Groq. Naturalmente, l'ufficialità ha anche dichiarato: non si tratta di un'acquisizione della società Groq, ma solo di un'autorizzazione tecnologica, e i prodotti di Groq saranno integrati nei futuri prodotti. Groq è stata fondata nel 2016 da un gruppo di ex ingegneri di Google, ed è il nucleo centrale del TPU, concentrandosi sulla progettazione di chip acceleratori AI ad alte prestazioni. Questa mossa di NVIDIA può essere vista come un attacco al retro di Google, iniziando ad accelerare nel campo dell'inferenza. Sulla linea tecnologica, 1) equivale a un passaggio da una linea GPU (processore grafico) singola a un modello di fusione a doppio binario "GPU + LPU", passando da "calcolo parallelo generico" a "inferenza deterministica dedicata". 2) In particolare, sul percorso di archiviazione, da HBM a SRAM; HBM (memoria ad alta larghezza di banda), sebbene abbia una grande capacità, ha una larghezza di banda limitata. L'LPU di Groq si basa quasi completamente su SRAM on-chip (memoria statica a accesso casuale), con una larghezza di banda che può raggiungere 80 TB/s (circa 10 volte quella di HBM). Si sente dire che, in futuro, più forte sarà la narrazione di Groq, più debole potrebbe diventare la narrazione di archiviazione. Questo è qualcosa da tenere d'occhio per l'andamento futuro dei diritti di archiviazione.