Google è l'azienda che non manca mai di potenza di calcolo, ne ha persino più di NVIDIA. È persino probabile che le GPU di NVIDIA seguano l'andamento delle TPU (è un consenso semi-trasparente nel settore). 1️⃣ Core Tensor (Tensor Core) NVIDIA ha introdotto completamente i Core Tensor dopo Volta, essenzialmente avvicinandosi alla specializzazione della moltiplicazione di matrici delle TPU. 2️⃣ Calcolo a bassa precisione (FP16 / BF16 / INT8) Le TPU hanno ottimizzato la bassa precisione per l'inferenza molto tempo fa, mentre le GPU sono state costrette a supportarla in seguito dalla domanda dei modelli. 3️⃣ Cluster su larga scala + collaborazione del compilatore Le TPU rappresentano un insieme di "hardware × compilatore × scheduling", mentre NVIDIA ha appena iniziato a lavorare seriamente sulla collaborazione a livello di Triton / CUDA Graph / NVLink. NVIDIA guadagna con la potenza di calcolo dei chip, mentre Google si basa su un ecosistema solido e duraturo, con pubblicità, motori di ricerca, YouTube, browser, Android e altri fenomeni online che forniscono supporto; la potenza di calcolo è solo un costo, non un consumo di profitto. Le TPU sono sempre state sviluppate internamente da Google, permettendo ricerche e revisioni sufficientemente lunghe. Jeff Dean comprende le TPU come se il modello fosse definito da te, allora anche l'hardware dovrebbe essere definito da te, quindi le TPU sono un intero sistema ingegneristico che comprende compilatori (XLA), grafi di calcolo (TensorFlow), topologia dei data center e sistemi di scheduling. Dal punto di vista del rischio, poiché NVIDIA vende GPU, deve servire tutti i clienti, con un margine di errore molto basso. Quale azione americana comprare è ora più chiaro.