Zuck Jensen TPU/GPU 遊戲理論對話 ZUCK: “Google 正在給我早期的 TPU v7/v8。我正在將大型 Llama 運行移到那裡。我希望 B200 的定價能反映出來。” JENSEN: “那就使用 TPUs。如果你相信它們能按計劃進行，就全力以赴。” ZUCK: “我很認真。我可以將我的 NVIDIA 足跡減少三分之一。” JENSEN: “很好。這樣可以為想要保證交付的客戶釋放 CoWoS。你的分配將從下個季度開始減少。” ZUCK: “…等等。我們仍然需要 H100/B200 的基準來支持主流模型。” JENSEN: “你會得到一些分配。但不是優先權。你分散了需求——其他人將排在前面。” ZUCK: “Jensen，TPU v7/v8 將縮小差距。我們會沒事的。” JENSEN: “這正是 Anthropic 在他們的編譯器延遲之前所說的。這正是 OpenAI 在他們回來要求更多 H100s 之前所說的。每個人都認為他們可以雙重堆疊。能做到的卻不多。” ZUCK: “我們有工程人才。” JENSEN: “你沒有時間表。訓練窗口會延遲。除錯周期會增加。而 Google 將始終優先給 Gemini 提供峰值 TPU 容量的權利。你正在把整個路線圖押在你最大的競爭對手的慷慨上。” ZUCK: “我們會讓它運作。” JENSEN: “也許。但你剛剛讓出兩個季度的訓練速度給保持統一在 CUDA 上的實驗室。他們會在你完成移植之前發送下一代模型。” ZUCK: “…我們仍然想要 40k B200s。” JENSEN: “它們已經售罄。你可以加入等候名單。” Zuck 太晚才意識到： 他過於強硬地打了 TPU 牌。 Jensen 沒有眨眼。 Meta 被困在一個仍在成熟的生態系統中，訓練艦隊的一半在那裡，而他們的 NVIDIA 分配減半。 而保持純 CUDA 的實驗室現在正在迅速前進。

如果 Gemini 3 Pro 在 Ironwood 上真的有約 5T 的參數，那就是另一個強烈的信號，顯示擴展法則仍然無法被擊敗 每個實驗室都需要更多的矽來保持競爭力 TPU 幫助 Google，但其他人則依賴 NVDA 進行擴展 這裡的需求曲線才剛剛開始 🚀

CoreWeave 剛剛提前兩個季度鎖定了 10,000+ H100，客戶的重新合約價格與原始價格相差不超過 5%。 與此同時，H100 和 H200 的現貨價格再次上漲，預計將持續到 2025 年。 這不是 AI 泡沫，而是計算資源的稀缺。 $NVDA $CRWV @michaeljburry