Zuck Jensen TPU/GPU Konvoi teori permainan ZUCK: "Google memberi saya TPU v7/v8 awal. Saya memindahkan lari Llama besar ke sana. Saya ingin harga B200 mencerminkan itu." JENSEN: "Kalau begitu ambil TPU. Jika Anda yakin mereka akan mencapai jadwal, lakukan sepenuhnya." ZUCK: "Saya serius. Saya dapat memotong jejak NVIDIA saya sepertiga." JENSEN: "Bagus. Itu membebaskan CoWoS bagi pelanggan yang menginginkan pengiriman terjamin. Alokasi Anda turun mulai kuartal depan." ZUCK: “… Tunggu. Kami masih membutuhkan garis dasar H100 / B200 untuk model mainline." JENSEN: "Dan Anda akan mendapatkan beberapa alokasi. Tapi bukan prioritas. Anda membagi permintaan Anda - orang lain berada di depan barisan." ZUCK: "Jensen, TPU v7/v8 akan menutup celah. Kami akan baik-baik saja." JENSEN: "Itulah yang dikatakan Anthropic sebelum penundaan kompiler mereka. Itulah yang dikatakan OpenAI sebelum mereka kembali untuk lebih banyak H100. Semua orang berpikir mereka bisa melakukan dual-stack. Hanya sedikit yang bisa." ZUCK: "Kami memiliki bakat teknik." JENSEN: "Anda tidak memiliki kalender. Jendela pelatihan tergelincir. Siklus debug berlipat ganda. Dan Google akan selalu memberikan Gemini hak pertama pada kapasitas TPU puncak. Anda mempertaruhkan seluruh peta jalan Anda pada kemurahan hati pesaing terbesar Anda." ZUCK: "Kami akan membuatnya berhasil." JENSEN: "Mungkin. Tapi Anda baru saja menyerahkan dua perempat kecepatan latihan kepada laboratorium yang tetap bersatu di CUDA. Mereka akan mengirimkan model generasi berikutnya sebelum Anda selesai porting." ZUCK: “… Kami masih menginginkan 40 ribu B200." JENSEN: "Mereka terjual habis. Anda dipersilakan untuk bergabung dengan daftar tunggu." Zuck menyadari terlambat: Dia memainkan kartu TPU terlalu keras. Jensen tidak berkedip. Meta terjebak dengan setengah armada pelatihan mereka pada ekosistem yang masih matang, dan alokasi NVIDIA mereka berkurang setengahnya. Dan laboratorium yang tetap murni CUDA sekarang berlari ke depan.

Jika Gemini 3 Pro benar-benar ~5T param di Ironwood, itu adalah sinyal keras lainnya bahwa hukum penskalaan masih tak terkalahkan Setiap laboratorium akan membutuhkan lebih banyak silikon untuk tetap dalam perlombaan TPU membantu Google, tetapi semua orang menskalakan di NVDA Kurva permintaan di sini baru saja dimulai 🚀

CoreWeave baru saja mengunci 10.000+ H100 dua kuartal lebih awal dan pelanggan mengontrak kembali dalam 5% dari harga awal. Sementara itu, harga spot H100 dan H200 naik lagi ke tahun 2025. Ini bukan gelembung AI, ini kelangkaan komputasi. $NVDA $CRWV @michaeljburry