NVIDIA przejęła potencjalnego konkurenta, ogłaszając wczoraj umowę z firmą Groq, startupem zajmującym się chipami AI, na kwotę 20 miliardów dolarów w gotówce. Oczywiście oficjalnie stwierdzono, że nie chodzi o przejęcie firmy Groq, a jedynie o uzyskanie licencji na technologię i integrację produktów Groq w przyszłych produktach. Groq została założona w 2016 roku przez grupę byłych inżynierów Google'a i jest rdzeniem TPU, koncentrując się na projektowaniu wysokowydajnych chipów akceleratorów AI. Ten ruch NVIDIA można uznać za atak na tyły Google'a, zaczynając przyspieszać działania w zakresie wnioskowania. Na linii technologicznej, 1) oznacza to, że NVIDIA przeszła z jednego toru GPU (procesora graficznego) na podwójny model „GPU + LPU”, przechodząc od „ogólnego obliczania równoległego” do „dedykowanego, deterministycznego wnioskowania”. 2) Szczególnie w ścieżce pamięci, od HBM do SRAM, HBM (pamięć o wysokiej przepustowości), chociaż ma dużą pojemność, ma ograniczoną przepustowość. LPU Groq opiera się niemal całkowicie na pamięci SRAM (statycznej pamięci RAM), której przepustowość może osiągnąć 80 TB/s (około 10 razy więcej niż HBM). Widziano opinie, że im silniejsza narracja Groq w przyszłości, tym słabsza może być narracja dotycząca pamięci. To wymaga uwagi w kontekście przyszłych trendów w prawach do pamięci.