$NVDA+グロク・ディールで重要な3つのポイント 1. これは推論経済学を所有することであり、チップギャップを修正することではありませんでした NvidiaがGroqを採用しなかったのはチップ開発の遅れがあったからです。Nvidiaはすでにトレーニングで圧倒的であり、ほとんどの推論やロードマップ(GB300、Rubin)はトークンあたりのコストを下げつつ、パフォーマンスを最も速く拡大しています。トレーニングは一度きりのイベントですが、推論は新しいAIビジネスモデルの中心なので、AIが実際の製品に移行するにつれて、収益は実行時間を管理する側に移ります。 2. 推論が逃げる未来 Nvidia はただ吸収された Groqは、遅延に敏感な推論が最終的にGPUから移行し、時間とともにNvidiaの「避けられない」地位を徐々に崩していくことを示す数少ない信頼できる証拠の一つでした。このリスクは、Groqの創業者ジョナサン・ロスによってさらに増幅されました。彼は以前に$GOOGLでTPUを構築し、カスタムシリコンが実際のワークロードで競争できることをすでに証明しています。この取引は、その扉が拡大する前に閉ざされる。 3. 決定論的推論が欠けていた層でした GPUは柔軟性とスケール性に優れていますが、完全に一貫した応答時間を保証するために設計されたわけではありません。これは重要な点です。なぜなら、現実世界のAIは遅延の揺れで壊れてしまうからです。音声アシスタントが一時停止し、ライブ翻訳の遅延が続き、エージェント型のワークフローが遅延を重ねるからです。Groqは大量のSRAMを設計し、データをプロセッサの近くに置き、毎回迅速な応答を提供することでこの問題を解決しました。これにより、Groqはピークスループットよりもレイテンシが重要なリアルタイムAIに特に適しています。 現時点で、Nvidiaが単にチップを売っていると主張するのは難しいです。なぜなら、Nvidiaは明らかにトレーニング、ネットワーキング、そして今ではリアルタイム推論を所有するプラットフォームを構築しているからです。 後で2億ドルの問題を避けるために今日200億ドルだ。