Google este compania care nu duce lipsă de putere de calcul, iar el nu duce lipsă de mai mult decât Nvidia. Chiar și plăcile video NVIDIA sunt foarte probabil să urmeze TPU (consensul translucid din cerc) 1️⃣ Nucleu tensor Introducerea completă a NVIDIA după Volta se apropie practic de specializarea de multiplicare a matriciilor pentru TPU-uri 2️⃣ Calcul de precizie redusă (FP16 / BF16 / INT8) TPU a fost optimizat pentru precizie scăzută în inferență la început, iar GPU-ul a fost ulterior "forțat" să suporte de cerințele modelului 3️⃣ Clustering masiv + colaborare cu compilatoare TPU reprezintă întregul "hardware × compilator × programare", iar NVIDIA abia a început să colaboreze serios la nivel Triton/CUDA Graph/NVLink Nvidia câștigă bani prin puterea de calcul a cipurilor, în timp ce Google se bazează pe un ecosistem stabil timp de mulți ani, publicitate, motoare de căutare, YouTube, browsere, Android și alte fenomene de rețea pentru a furniza sânge, iar puterea de calcul este doar costul său, nu un consum de profit. TPU a fost întotdeauna cercetarea completă a Google, care permite cercetări și răsturnări suficient de lungi. Înțelegerea lui Jeff Dean despre TPU este că, dacă modelul este definit de tine, atunci și hardware-ul ar trebui să fie definit de tine, deci TPU este un set complet de inginerie de sistem din compilator (XLA), graf computațional (TensorFlow), topologie de centre de date, sistem de programare În ceea ce privește riscul, deoarece NVIDIA vinde plăci video, trebuie să deservească toți clienții, iar rata de toleranță la defecte este extrem de scăzută. Ce acțiune americană să cumperi este din nou clară