Hva er den egentlige størrelsen på en TPU superpod? Den egentlige skalaen på en superdatamaskin defineres ikke av hvor mange prosessorer du kan få plass til i et rom; Det defineres av hvor mange prosessorer som effektivt kan tenke som én. Denne distinksjonen er drivkraften bak Ironwood, vår syvende generasjons Tensor Processing Unit (TPU), og arkitekturen til TPU-superpoden. På papiret er skalaen til en Ironwood-superpod imponerende: den skalerer opp til 9 216 brikker i et enkelt sammenkoblet domene. Men den egentlige skalaen ligger i stoffet som binder dem sammen. I en Ironwood-superpod bruker vi en banebrytende Inter-Chip Interconnect (ICI) nettverksteknologi som kjører på 9,6 terabit per sekund. Dette gjør at disse 9 216 brikkene kan kommunisere med nesten umiddelbar forsinkelse, og få tilgang til hele 1,77 petabyte delt High Bandwidth Memory (HBM). Så, hvordan kobler du nesten 10 000 brikker uten å skape et kablingsmareritt? Svaret ligger i den optiske kretsbryteren (OCS). ◾ Jerntreklynger bygges av byggeklosser kalt "kuber" (64 fliser hver). ◾ For å skalere utover én enkelt kube, kobles flere kuber sammen ved hjelp av et optisk kretsbryternettverk (OCS). Dette er et dynamisk, rekonfigurerbart optisk nettverk som kobler hele kuber, slik at systemet kan skaleres fra en liten "pod" (f.eks. en 256-chips Ironwood-pod med fire kuber) til en massiv "superpod" (f.eks. et 9 216-chip-system med 144 kuber). ◾ Denne OCS-baserte topologien er nøkkelen til feiltoleranse. Hvis en kube eller lenke feiler, instruerer OCS-stoffadministratoren OCS-en om å optisk omgå den enheten og etablere nye, komplette optiske kretser som bytter inn en utpekt reservedel. → Maskinvare er bare halve ligningen. Den sanne skalaen på en TPU-superpod låses opp gjennom en medutviklet programvarestabel for raskere og mer effektive resultater. Takket være dype integrasjoner på tvers av stakken – fra maskinvareoptimaliseringer i hele datasenteret til åpen programvare og administrerte tjenester – er Ironwood TPU-er våre mest kraftfulle og energieffektive TPU-er til dags dato.