Google ei koskaan myy TPU-yhdisteitä. Heti kun Google myy TPU:ita laajassa mittakaavassa, he muuttavat arkkitehtonisen etunsa hyödykkeeksi. Googlen sisäisillä tiimeillä on ensisijaiset vaatimukset TPU-kapasiteetista, koska nämä työkuormat tuottavat suoraan tuloja ja strategisia vallihauhoja. Kaikki ulkoisesti myytävä TPU on TPU, jota ei käytetä Googlen ensisijaisten voittomoottoreiden puolustamiseen. Tällä hetkellä TPU:t ovat Googlen oma reuna-, vertikaalinen integraatio, joka mahdollistaa tekoälyinfrastruktuurin käytön kustannuksin, joihin kilpailijat eivät pysty vastaamaan. DeepMind voi kuluttaa laskentabudjetteja, jotka ajaisivat OpenAI:n konkurssiin, koska Google ei maksa GPU:n vähittäishintaa, vaan TPU:n sisäisiä marginaalikustannuksia. Jos Google alkaa myydä TPU:ta ulkopuolelta: - Niiden täytyy hinnoitella kilpailukykyisesti Nvidia-näytönohjaimiin verrattuna, mikä tarkoittaa kustannusrakenteen paljastamista. Yhtäkkiä kaikki tietävät, ettei Googlen todelliset tekoälylaskentakustannukset ole taikatemppuja. - Bare metal -TPU:iden myynti tarkoittaa yksityiskohtaisten spesifikaatioiden, suorituskykymittareiden ja ohjelmointirajapintojen julkaisemista. Tämä antaa kilpailijoille suunnitelman siitä, "miten Google oikeasti toteuttaa tekoälyä laajassa mittakaavassa." Tällä hetkellä se on patenttia. Heti kun siitä tulee tuote, sitä tutkitaan, käänteisesti suunnitellaan ja lopulta replikoidaan. - Google Cloud myy jo TPU-pääsyä GCP:n kautta korkeampiin hinnoin. Jos he alkavat myydä pelkiä TPU-yhdisteitä, he kilpailevat oman korkeamman katteen pilvipalvelunsa kanssa. Yksikään taitava ostaja ei maksaisi GCP:n korotusta, kun he voisivat ostaa TPU:t suoraan ja myydä niitä halvemmalla. GCP TPU:n hinnoittelu ei ole aggressiivista verrattuna GPU-vaihtoehtoihin, mutta se on premium-tasoa. Tämä ei ole osaamatonta, vaan tarkoituksella hinnoiteltu estämään massiivista ulkoista käyttöönottoa. Google tekee TPU:t riittävän saataville välttääkseen kilpailulainsäädännön "infrastruktuurin hamstraus" -syytökset ja saadakseen jonkin verran korkean katteen pilvituloja, mutta he eivät oikeasti halua ulkopuolisten asiakkaiden kuluttavan kapasiteettia laajassa mittakaavassa. Vertaa tätä AWS:ään, joka myy kaikki mahdolliset sirut (Graviton, Trainium, Inferentia), koska AWS on raaka-aineinfrastruktuuriliiketoiminta. Googlen ydinliiketoiminta koostuu mainoksista ja kulutustuotteista, jotka perustuvat tekoälyinfrastruktuuriin. Infrastruktuurin myyminen on kuin McDonald's myyisi toimitusketjunsa Burger Kingille, vaikka se tuottaisi tuloja, vahvistat kilpailijoita ja heikentäisit pääliiketoimintaasi. Et voi samanaikaisesti olla raaka-ainepiirien toimittaja JA säilyttää omaa infrastruktuurietua. Heti kun myyt, alat kaupallistaa. Heti kun hyödykkeet, etusi katoaa. Kun TPU:iden myynti vaikuttaa strategisesti epävakaalta, miksi spekuloidaan, että Google jatkaisi sitä silti? Luulen, että siksi, että pilviosastoilla jokaisella hyperscalerilla on jatkuvaa "tarvitsemme erilaistumista" -huolta, ja räätälöidyt sirut näyttävät erottelulta. Mutta erottautumisella on merkitystä vain, jos se suojaa marginaaleja tai valtaa osuuden tuhoamatta ydinliiketoimintaasi. Googlen TPU:iden myynti olisi erottautumista, joka tuhoaa enemmän arvoa kuin luo.

Nvidia maksoi 3X Groqin syyskuun arvostuksesta ostaakseen sen. Tämä on strategisesti ydinvoimaa. Jokainen tekoälylaboratorio oli GPU-riippuvainen, mikä loi valtavan keskittymisriskin. Google irtautui TPU:ista sisäiseen käyttöön, mikä osoitti, että "Nvidia tai ei mitään" -narratiivi oli väärä. Tämä ei ainoastaan osoittanut teknistä mahdollista, vaan paljasti, että Nvidian vallihauta oli matalampi kuin markkinat uskoivat. Kun hyperskaalaus onnistuu rakentamaan räätälöityä piitä, jokainen kehittynyt ostaja alkaa ajaa "pitäisikö meidän rakentaa oma?" -laskelmia. Tämä pudottaa Nvidian TAM:n. Jonathan Ross (Groqin perustaja) on TPU:n keksijä. Hän ymmärsi arkkitehtoniset periaatteet, jotka tekivät ei-GPU-tekoälykiihdytyksestä toimivan. Hänen LPU-arkkitehtuurinsa kohdistui päättelykuormiin, joissa GPU:t ovat itse asiassa ylisuunniteltuja. Tällä on merkitystä, koska päättely on se, missä todellinen raha on pitkällä aikavälillä. Koulutus on kertaluonteista capexia, mutta päättely on toistuvaa opexia, joka skaalautuu käytön mukaan. Jos Groq osoittaisi, että LPU:t pystyvät saavuttamaan kilpailukykyisen hintakehon päättelyssä, jokainen pilvipalveluntarjoaja valkoistaisi arkkitehtuurinsa. Nvidia joutuisi "vain koulutukseen" samalla kun se menettäisi eläkevirran. On turvallista nähdä tämä sopimus niin, että Nvidia vakuuttaa Groqin mahdollistavan kokonaisen Nvidia-vaihtoehtojen ekosysteemin rakentamisen. Mutta mielenkiintoisempaa on toisen asteen vaikutus, asiakaslukko. Nyt Nvidia omistaa sekä nykyisen standardin (CUDA + GPU) että uskottavimman vaihtoehtoisen arkkitehtuurin (LPU:t). Tämä on MSFT:n osto-Github-tason strategista. Jokainen tekoälylaboratorio, joka arvioi "rakentaminen, ostaminen vs vaihtoehtoinen toimittaja", kohtaa nyt: - Vaihtoehto A (Nvidia-GPU:t) - Vaihtoehto B (Nvidia <> Groq LPU:t) - Vaihtoehto C (aloittaa alusta) Muuttamalla kilpailuuhan asiakassegmentointityökaluksi, Jensen on ammattimestari. Ne voivat nyt tehdä hintasyrjinnän: premium-asiakkaat maksavat GPU:sta, hintaherkkä päättely ohjautuu LPU:ihin ja Nvidia ottaa molemmat. Jos Nvidia ei integroi LPU:ita tiekarttaansa, kyseessä oli puhdas puolustuspeli. Jos he integroivat sen ja alkavat tarjota "GPU harjoitukseen, LPU päättelyyn" -paketteja, tästä tulee oppikirjaesimerkki vallihaudan laajentamisesta. Kallein asia teknologiassa ei ole tulevaisuuden rakentaminen, vaan estää jotakuta toista rakentamasta tulevaisuutta ilman sinua.

Suosituimmat kommentit ovat myös botteja. Tekoäly ottaa kirjaimellisesti vallan.