Nvidiaは潜在的な競合他社を獲得し、昨夜AIチップスタートアップGroqと200億ドルの現金契約を発表しました。 もちろん、その関係者はまた、Groq社を買収することではなく、技術ライセンスを取得し、Groqの製品を将来の製品に統合することだとも述べました。 2016年に元Googleエンジニアのグループによって設立されたGroqは、高性能AIアクセラレータチップの設計に注力するTPUの中核チームです。 Nvidiaの動きはGoogleの後ろを真似し、推論の取り組みを加速させることです。 技術的ルートとしては、1) NVIDIAが単一のGPU(グラフィックス処理ユニット)ルートから「GPU + LPU」のデュアルトラック融合モードへ移行し、「一般的な並列計算」から「専用決定論的推論」へ移行することに相当します。 2) 特に記憶経路、すなわちHBMからSRAMへのHBM(高帯域幅ビデオメモリ)では、容量は大きいものの帯域幅は限られています。 GroqのLPUはほぼ完全にオンチップSRAM(静的ランダムメモリ)に依存しており、最大80TB/s(HBMの約10倍)の帯域幅を持っています。 「将来的にグロックの物語が強ければ強いほど、ストレージの物語は弱くなる」という言葉があるのです。 この保存著作権の傾向に注意を払う必要があります。