Care este scara reală a unui superpod TPU? Scara reală a unui supercomputer nu este definită de câte procesoare poți încăpea într-o cameră; Este definit de câți procesoare pot gândi eficient ca unul singur. Această distincție este forța motrice din spatele Ironwood, a șaptea noastră generație de Unitatea de Procesare a Tensorială (TPU) și arhitectura superpodului TPU. Pe hârtie, scara unui superpod Ironwood este impresionantă: poate ajunge la 9.216 cipuri într-un singur domeniu interconectat. Dar adevărata scară constă în materialul care le leagă. Într-un superpod Ironwood, folosim o tehnologie revoluționară Inter-Chip Interconnect (ICI) care rulează la 9,6 terabiți pe secundă. Acest lucru permite acestor 9.216 cipuri să comunice cu latență aproape instantanee, accesând un număr masiv de 1,77 petabytes de memorie partajată cu lățime de bandă mare (HBM). Deci, cum conectezi aproape 10.000 de cipuri fără să creezi un coșmar al cablajului? Răspunsul se află în Comutatorul de Circuit Optic (OCS). ◾ Clusterele de lemn de fier sunt construite din blocuri de construcție numite "cuburi" (câte 64 de așchii fiecare). ◾ Pentru a depăși un singur cub, mai multe cuburi sunt conectate folosind o rețea de comutator optic (OCS). Aceasta este o rețea optică dinamică, reconfigurabilă, care conectează cuburi întregi, permițând sistemului să se scaleze de la un mic "pod" (de exemplu, un pod Ironwood cu 256 de cipuri și patru cuburi) la un "superpod" masiv (de exemplu, un sistem cu 9.216 cipuri și 144 cuburi). ◾ Această topologie bazată pe OCS este cheia toleranței la erori. Dacă un cub sau o legătură eșuează, managerul de fabric OCS instruiește OCS să ocolească optic acea unitate și să stabilească circuite optice noi, complete, înlocuind o rezervă desemnată. → Hardware-ul reprezintă doar jumătate din ecuație. Adevărata scară a unui superpod TPU este deblocată de un stack software co-proiectat pentru rezultate mai rapide și mai eficiente. Datorită integrărilor profunde pe tot parcursul stivei — de la optimizări hardware la nivelul întregului centru de date până la software deschis și servicii gestionate — TPU-urile Ironwood sunt cele mai puternice și eficiente energetic TPU-uri ale noastre de până acum.