Google asla TPU satmayacak. Google TPU'ları büyük ölçekte sattığı anda, mimari avantajlarını bir metaya dönüştürüyor. Google'ın iç ekipleri, TPU kapasitesi konusunda birinci sırada iddia ediyor çünkü bu iş yükleri doğrudan gelir ve stratejik engeller yaratıyor. Dışarıdan satılan herhangi bir TPU, Google'ın birincil kâr motorlarını savunmak için kullanılmayan bir TPU'dur. Şu anda TPU'lar, Google'ın özel, dikey entegrasyonu olarak AI altyapısını rakiplerinin karşılayamayacağı maliyetlerle işletmelerini sağlıyor. DeepMind, Google'ın perakende GPU fiyatlarını ödememesi, dahili TPU marjinal maliyetini ödemesi nedeniyle OpenAI'yi iflas ettirecek hesaplama bütçelerini tüketebilir. Google TPU'ları dışarıdan satmaya başlarsa: - Nvidia GPU'larına karşı rekabetçi fiyatlandırmaları gerekiyor, bu da maliyet yapılarını ortaya çıkarmak anlamına geliyor. Birdenbire, herkes Google'ın gerçek yapay zeka hesaplama maliyetlerinin sihirli olmadığını biliyor. - Çıplak metal TPU'ların satışı, ayrıntılı özelliklerin, performans ölçütlerinin ve programlama arayüzlerinin yayımlanması anlamına gelir. Bu, rakiplere "Google'ın yapay zekayı ölçekli olarak nasıl yaptığına" dair bir plan sunuyor. Şu anda bu tamamen mülkiyet. Bir ürün olduğu anda, incelenir, tersine mühendislik yapılır ve sonunda çoğaltılır. - Google Cloud zaten GCP üzerinden TPU erişimini yüksek fiyatlarla satıyor. Eğer çıplak TPU'ları satmaya başlarlarsa, kendi yüksek marjlı bulut sunumlarıyla rekabet ediyorlar. Hiçbir sofistike alıcı, TPU'ları doğrudan satın alıp daha ucuza satabilecekken GCP fark artışı ödemez. GCP TPU fiyatlandırması GPU alternatiflerine kıyasla agresif değil, ancak premium. Bu yetersizlik değil, büyük ölçüde dış savunmayı caydırmak için kasıtlı olarak fiyatlandırılmıştır. Google, TPU'ları rekabet "altyapı biriktirme" suçlamalarından kaçınacak kadar erişilebilir hale getiriyor ve yüksek marjlı bulut geliri elde ediyor, ancak aslında dış müşterilerin kapasiteyi büyük ölçekte tüketmesini istemiyor. Bunu, AWS üretebilecekleri her çipi (Graviton, Trainium, Inferentia) satan AWS ile karşılaştırın; çünkü AWS bir emtia altyapı işi. Google'ın temel işi, yapay zeka altyapısına dayanan reklamlar ve tüketici ürünleridir. Altyapıyı satmak, McDonald's'ın tedarik zincirini Burger King'e satması gibidir; gelir getirse bile rakipleri güçlendirir ve ana işinizi zayıflatırsınız. Aynı anda hem bir emtia çip satıcısı olamazsınız hem de tescilli altyapı avantajını koruyamazsınız. Sattığınız anda metalaştırırsınız. Ticarete geçtiğiniz anda, avantajınız kaybolur. TPU satmak stratejik olarak sağlam görünmüyorsa, Google'ın neden bunu takip ettiğine dair spekülasyonlar var? Bence her hiper ölçekleyicideki bulut bölümlerinde sürekli "farklılaşmaya ihtiyacımız var" kaygısı var ve özel çipler farklılaştırma gibi görünüyor. Ancak farklılaştırma ancak marjları korursa veya ana işinizi yok etmeden pay kazanırsa önemlidir. Google'ın TPU'ları satması, yarattığından çok değeri yok eden farklılaştırma olurdu.

Nvidia, Groq'un Eylül değerlemesini 3X ödedi ve satın aldı. Bu stratejik olarak nükleer bir durum. Her yapay zeka laboratuvarı GPU bağımlıydı, bu da büyük bir konsantrasyon riski yaratıyordu. Google, dahili kullanım için TPU'larla serbest kaldı ve "Nvidia ya da hiçbir şey" anlatısının yanlış olduğunu kanıtladı. Bu sadece teknik fizibiliteyi göstermekle kalmadı, aynı zamanda Nvidia'nın hendeklerinin piyasaların düşündüğünden daha sığ olduğunu ortaya koydu. Bir hiper ölçekleyici özel silikon başarılı bir şekilde inşa ettiğinde, her gelişmiş alıcı "kendi silikonumuzu mı yapalım?" hesaplamalarını yapmaya başlar. Bu Nvidia'nın TAM'ını düşürüyor. Jonathan Ross (Groq'un kurucusu) TPU'nun mucididir. GPU dışı yapay zeka hızlandırmayı uygulanabilir kılan mimari prensipleri anlıyordu. LPU mimarisi, GPU'ların aşırı mühendislik yaptığı çıkarım iş yükünü hedefliyordu. Bu önemli çünkü çıkarım, gerçek paranın uzun vadede olduğu yerdir. Eğitim tek seferlik capex'tir, ancak çıkarım, kullanıma göre ölçeklenen tekrarlayan bir operasyondur. Groq LPU'ların çıkarımda rekabetçi fiyat-performans gösterebileceğini kanıtlasaydı, her bulut sağlayıcısı mimarisini beyaz etiketle etiketlerdi. Nvidia "sadece eğitim" sistemine sıkıştırılır ve yıllık gelir akışını kaybeder. Bu anlaşmayı, Nvidia'nın Groq'a karşı sigorta olarak görülmesi ve tüm bir Nvidia alternatifleri ekosistemini mümkün kılması olarak güvenlidir. Ama daha ilginç olan, ikinci dereceden etki, müşteri kilitlenmesi. Şimdi Nvidia hem mevcut standardın (CUDA + GPU) hem de en güvenilir alternatif mimarinin (LPU) sahibi. Bu, MSFT satın alma Github seviyesinde stratejik bir durum. "Yapı mı, satın alma mı alternatif satıcı" değerlendirmesini değerlendiren herhangi bir yapay zeka laboratuvarı şimdi şu noktalarla karşı karşıya: - Seçenek A (Nvidia GPU'ları) - Seçenek B (Nvidia <> Groq LPU'lar) - Seçenek C (sıfırdan başlamak) Rekabet tehdidini müşteri segmentasyon aracına dönüştüren Jensen, ticaretin ustasıdır. Artık fiyat ayrımcılığı yapabiliyorlar: premium müşteriler GPU'lar için ödeme yapıyor, fiyat hassasiyeti çıkarımları LPU'lara yönlendiriliyor ve Nvidia her ikisini de ele alıyor. Nvidia LPU'ları yol haritasına entegre etmezse, bu tamamen savunma bir hamledir. Eğer bunu entegre ederlerse ve "GPU eğitim için, LPU çıkarım" paketleri sunmaya başlarlarsa, bu ders kitabı gibi bir hendek genişletme haline gelir. Teknolojide en pahalı şey geleceği inşa etmek değil, başkasının sensiz bir gelecek inşa etmesini engellemektir.

En çok yorumlanan yorumlar da botlar. Yapay zeka kelimenin tam anlamıyla kontrolü ele geçiriyor.