Google is het bedrijf met de meeste rekenkracht, zelfs meer dan NVIDIA. Het is zelfs zeer waarschijnlijk dat de NVIDIA GPU's de TPU volgen (dit is een halftransparante consensus binnen de sector). 1️⃣ Tensor Core NVIDIA heeft dit volledig geïntroduceerd na Volta, en het is in wezen een specialisatie naar de matrixvermenigvuldiging van TPU. 2️⃣ Lage precisie berekeningen (FP16 / BF16 / INT8) TPU heeft al vroeg lage precisie geoptimaliseerd voor inferentie, terwijl GPU's later door de eisen van modellen "gedwongen" werden om dit te ondersteunen. 3️⃣ Grootschalige clusters + samenwerking met de compiler TPU is een geheel van "hardware × compiler × scheduling", terwijl NVIDIA pas net serieus begint met samenwerking op het niveau van Triton / CUDA Graph / NVLink. NVIDIA verdient geld met chiprekenkracht, terwijl Google afhankelijk is van een langdurig stabiele ecosysteem, met advertenties, zoekmachines, YouTube, browsers, Android, en andere netwerfenomenen die de bloedtoevoer vormen; rekenkracht is slechts een kostenpost, geen winstconsumptie. TPU is altijd volledig door Google zelf ontwikkeld, wat voldoende tijd voor onderzoek en herziening mogelijk maakt. Jeff Dean's begrip van TPU is dat als het model door jou gedefinieerd is, de hardware ook door jou gedefinieerd moet zijn. Daarom is TPU een compleet systeem van compiler (XLA), reken grafiek (TensorFlow), datacenter topologie en scheduling systeem. Wat betreft risico's, omdat NVIDIA GPU's verkoopt, moet het aan alle klanten dienen, wat de fouttolerantie extreem laag maakt. Welke Amerikaanse aandelen je moet kopen, is nu duidelijker, toch?