Jaka jest prawdziwa skala superpod TPU? Prawdziwa skala superkomputera nie jest definiowana przez to, ile procesorów można zmieścić w pomieszczeniu; jest definiowana przez to, ile procesorów może efektywnie myśleć jako jeden. Ta różnica jest siłą napędową Ironwood, naszego siódmej generacji Tensor Processing Unit (TPU), oraz architektury superpod TPU. Na papierze skala superpod Ironwood jest imponująca: skaluje się do 9 216 chipów w jednej połączonej domenie. Ale prawdziwa skala leży w tkaninie, która je łączy. W superpod Ironwood używamy przełomowej technologii sieciowej Inter-Chip Interconnect (ICI) działającej z prędkością 9,6 terabitów na sekundę. Umożliwia to tym 9 216 chipom komunikację z niemal natychmiastowym opóźnieniem, uzyskując dostęp do ogromnej ilości 1,77 petabajtów współdzielonej pamięci o wysokiej przepustowości (HBM). Jak więc połączyć prawie 10 000 chipów, nie tworząc koszmaru kablowego? Odpowiedź leży w przełączniku obwodów optycznych (OCS). ◾ Klastery Ironwood są zbudowane z bloków budowlanych zwanych "kostkami" (po 64 chipy każda). ◾ Aby skalować poza pojedynczą kostkę, wiele kostek jest łączonych za pomocą sieci przełącznika obwodów optycznych (OCS). Jest to dynamiczna, rekonfigurowalna sieć optyczna, która łączy całe kostki, pozwalając systemowi skalować się od małego "pod" (np. 256-chipowy pod Ironwood z czterema kostkami) do ogromnego "superpod" (np. system 9 216-chipowy z 144 kostkami). ◾ Ta topologia oparta na OCS jest kluczowa dla tolerancji na błędy. Jeśli kostka lub łącze zawiedzie, menedżer tkaniny OCS instruuje OCS, aby optycznie ominąć tę jednostkę i ustanowić nowe, kompletne obwody optyczne, zamieniając na wyznaczoną zapasową. → Sprzęt to tylko połowa równania. Prawdziwa skala superpod TPU jest odblokowywana przez współprojektowany stos oprogramowania dla szybszych, bardziej efektywnych wyników. Dzięki głębokim integracjom w całym stosie — od optymalizacji sprzętu w całym centrum danych po otwarte oprogramowanie i zarządzane usługi — TPUs Ironwood są naszymi najsilniejszymi i najbardziej energooszczędnymi TPU do tej pory.