Google nikdy neprodá TPU. Ve chvíli, kdy Google začne prodávat TPU ve velkém měřítku, promění svou architektonickou výhodu v komoditu. Interní týmy Googlu mají na TPU kapacitu první řadu, protože tyto pracovní zátěže přímo generují příjmy a strategické příkopy. Jakýkoli TPU prodávaný externě je TPU, který se nepoužívá k obraně hlavních ziskových motorů Googlu. V současnosti jsou TPU proprietární edge vertikální integrací Googlu, která jim umožňuje provozovat AI infrastrukturu za ceny, které konkurence nemohou překonat. DeepMind může spotřebovat výpočetní rozpočty, které by OpenAI zbankrotovaly, protože Google neplatí maloobchodní ceny GPU, ale interní marginální náklady TPU. Pokud Google začne prodávat TPU externě: - Musí cenově konkurenceschopně oproti GPU Nvidia, což znamená odhalit jejich nákladovou strukturu. Najednou všichni vědí, že skutečné náklady na AI výpočetní náklady Googlu nejsou žádné zázraky. - Prodej bare metal TPU znamená publikování podrobných specifikací, výkonnostních benchmarků a programovacích rozhraní. To dává konkurentům plán "jak Google skutečně dělá AI ve velkém měřítku." Teď je to proprietární. Jakmile je produkt produktem, je studován, zpětně analyzován a nakonec replikován. - Google Cloud již prodává přístup k TPU přes GCP za prémiové ceny. Pokud začnou prodávat holé TPU, budou soutěžit se svou vlastní cloudovou nabídkou s vyšší marží. Žádný sofistikovaný kupující by nezaplatil GCP přirážku, když by mohl TPU koupit přímo a provozovat je levněji. Ceny GCP TPU nejsou agresivní ve srovnání s alternativami GPU, ale jsou prémiové. To není neschopnost, je to záměrně naceněno, aby se odradilo od masivního externího přijetí. Google zpřístupňuje TPU natolik, aby se vyhnul obviněním z antimonopolní "hromadění infrastruktury" a získal určité příjmy z cloudu s vysokou marží, ale ve skutečnosti nechce, aby externí zákazníci spotřebovávali kapacitu ve velkém měřítku. Porovnejte to s AWS, která prodává každý čip, který dokáže vyrobit (Graviton, Trainium, Inferentia), protože AWS je komoditní infrastrukturní byznys. Jádrem podnikání Googlu jsou reklamy a spotřebitelské produkty závislé na AI infrastruktuře. Prodej infrastruktury je jako kdyby McDonald's prodával svůj dodavatelský řetězec Burger Kingu – i když to generuje příjmy, posilujete konkurenci a oslabujete svůj hlavní byznys. Nemůžete být současně dodavatelem komoditních čipů A zároveň si udržovat výhodu proprietární infrastruktury. Jakmile prodáš, staneš se zbožím. Ve chvíli, kdy se stanete komodifikovaným, vaše výhoda zmizí. Vzhledem k tomu, že prodej TPU se zdá strategicky nevýhodný, proč se spekuluje, že Google to přesto řeší? Myslím, že protože cloudové divize u každého hyperscaleru mají neustálou úzkost z "potřebujeme diferenciaci" a vlastní čipy vypadají jako diferenciace. Ale odlišení má význam jen tehdy, pokud chrání marže nebo získává podíl, aniž by zničilo vaše hlavní podnikání. Google prodávající TPU by byl odlišení, které ničí více hodnoty, než vytváří.

Nvidia zaplatila 3X zářijové ocenění Groqu za jeho akvizici. To je strategicky jaderné. Každá AI laboratoř byla závislá na GPU, což vytvářelo obrovské riziko koncentrace. Google se osvobodil s TPU pro interní použití, což dokázalo, že narativ "Nvidia nebo nic" byl nepravdivý. To nejen ukázalo technickou proveditelnost, ale ukázalo se, že příkop Nvidie je mělčí, než si trhy myslely. Když hyperscaler úspěšně postaví vlastní silikon, každý sofistikovaný kupující začne počítat "máme si postavit vlastní?" To snižuje Nvidia TAM. Jonathan Ross (zakladatel Groqu) je vynálezcem TPU. Rozuměl architektonickým principům, které učinily akceleraci AI mimo GPU životaschopnou. Jeho architektura LPU se zaměřovala na inferenční zátěž, kde jsou GPU ve skutečnosti přetížené. To je důležité, protože inference je místo, kde jsou skutečné peníze dlouhodobě. Trénink je jednorázový kapitálový výdaj, ale inference je opakující se provozní výdaj, který se škáluje s využitím. Kdyby Groq dokázal, že LPU mohou dosáhnout konkurenceschopného cenového výkonu na základě inference, každý poskytovatel cloudu by svou architekturu označil jako bílou značku. Nvidia by byla vtěsnána do "jen tréninku" a přitom by přišla o proud anuit. Je bezpečné vnímat tuto dohodu jako pojištění Nvidie proti Groqu, která umožňuje vznik celého ekosystému alternativ Nvidia. Ale zajímavější je efekt druhého řádu, zákaznické uzamčení. Nyní Nvidia vlastní jak stávající standard (CUDA + GPU), tak nejdůvěryhodnější alternativní architekturu (LPU). Tohle je MSFT kupující strategické řešení na úrovni Githubu. Každá AI laboratoř, která hodnotí "build vs buy vs alternative vendor", nyní čelí: - Varianta A (Nvidia GPU) - Varianta B (Nvidia <> Groq LPU) - Možnost C (začít od nuly) Jensen proměňuje konkurenční hrozbu v nástroj segmentace zákazníků a je mistrem řemesel. Nyní mohou cenově diskriminovat: prémioví zákazníci platí za GPU, cenově citlivé inference se přesouvají na LPU a Nvidia zachytí obojí. Pokud Nvidia nezačlení LPU do svého plánu, šlo o čistě obranný tah. Pokud ji skutečně integrují a začnou nabízet balíčky "GPU pro trénink, LPU pro inferenci", stane se to učebnicovým rozšířením příkopu. Nejdražší věcí v technologiích není budování budoucnosti, ale bránění někomu jinému budovat budoucnost bez vás.

Nejlepší komentáře jsou také boti. AI doslova přebírá kontrolu.