Berapa skala sebenarnya dari superpod TPU? Skala sebenarnya dari superkomputer tidak ditentukan oleh berapa banyak prosesor yang dapat Anda muat di dalam ruangan; Ini ditentukan oleh berapa banyak prosesor yang dapat secara efektif berpikir sebagai satu. Perbedaan ini adalah kekuatan pendorong di balik Ironwood, Unit Pemrosesan Tensor (TPU) generasi ketujuh kami, dan arsitektur superpod TPU. Di atas kertas, skala superpod Ironwood sangat mengesankan: menskalakan hingga 9.216 chip dalam satu domain yang saling berhubungan. Tetapi skala sebenarnya terletak pada kain yang mengikat mereka. Dalam superpod Ironwood, kami menggunakan teknologi jaringan Inter-Chip Interconnect (ICI) terobosan yang berjalan pada 9,6 terabit per detik. Hal ini memungkinkan 9.216 chip tersebut untuk berkomunikasi dengan latensi yang hampir instan, mengakses 1,77 Petabyte besar Memori Bandwidth Tinggi (HBM) bersama. Jadi, bagaimana Anda menghubungkan hampir 10.000 chip tanpa menciptakan mimpi buruk kabel? Jawabannya terletak pada Optical Circuit Switch (OCS). ◾ Gugus kayu ulin dibangun dari blok bangunan yang disebut "kubus" (masing-masing 64 chip). ◾ Untuk menskalakan lebih dari satu kubus, beberapa kubus dihubungkan menggunakan jaringan Optical Circuit Switch (OCS). Ini adalah jaringan optik dinamis yang dapat dikonfigurasi ulang yang menghubungkan seluruh kubus, memungkinkan sistem untuk menskalakan dari "pod" kecil (misalnya, pod Ironwood 256 chip dengan empat kubus) ke "superpod" besar (misalnya, sistem 9.216 chip dengan 144 kubus). ◾ Topologi berbasis OCS ini adalah kunci toleransi kesalahan. Jika kubus atau tautan gagal, manajer fabric OCS menginstruksikan OCS untuk secara optik melewati unit tersebut dan membuat pertukaran sirkuit optik baru dan lengkap di suku cadang yang ditentukan. → Perangkat keras hanya setengah dari persamaan. Skala sebenarnya dari superpod TPU dibuka oleh tumpukan perangkat lunak yang dirancang bersama untuk hasil yang lebih cepat dan lebih efisien. Berkat integrasi mendalam di seluruh tumpukan—mulai dari pengoptimalan perangkat keras di seluruh pusat data hingga perangkat lunak terbuka dan layanan terkelola—TPU Ironwood adalah TPU kami yang paling kuat dan hemat energi hingga saat ini.