Bir TPU süperpodunun gerçek ölçeği nedir? Bir süper bilgisayarın gerçek ölçeği, bir odaya kaç işlemci sığdırabileceğinizle tanımlanmaz; Bu, kaç işlemcinin etkili bir şekilde tek bir kişi olarak düşünebildiğiyle tanımlanır. Bu ayrım, Ironwood'un, yedinci nesil Tensör İşleme Birimimizin (TPU) ve TPU süperpodunun mimarisinin itici gücüdür. Kağıt üzerinde, bir Ironwood süperpodunun ölçeği etkileyici: tek bir bağlantılı alanda 9.216 çipe kadar ölçeklenebilir. Ama gerçek ölçek, onları bağlayan kumaşta yatıyor. Bir Ironwood süperpodunda, saniyede 9.6 terabit hızında çalışan çığır açan bir Çipler arası bağlantı (ICI) ağ teknolojisi kullanıyoruz. Bu, 9.216 çipin neredeyse anında gecikmeyle iletişim kurmasını sağlar ve devasa 1.77 Petabayt paylaşılan Yüksek Bant Genişliğine (HBM) erişir. Peki, yaklaşık 10.000 çipi nasıl bağlayırsınız ve kablolama kabusu yaratmazsınız? Cevap Optik Devre Anahtarında (OCS) yatıyor. ◾ Demir ağacı kümeleri, "küpler" (her biri 64 parça) adı verilen yapı bloklarından yapılır. ◾ Tek bir küpün ötesine ölçeklemek için, birden fazla küp Optik Devre Anahtarı (OCS) ağı kullanılarak bağlanır. Bu, tüm küpleri birbirine bağlayan dinamik, yeniden yapılandırılabilir bir optik ağdır ve sistemin küçük bir "pod"dan (örneğin, dört küplü 256 çipli Ironwood kapsül) devasa bir "süperpod"a (örneğin, 144 küplü 9.216 çipli bir sistem) ölçeklenmesini sağlar. ◾ Bu OCS tabanlı topoloji, hata toleransı için anahtardır. Bir küp veya bağlantı arızalanırsa, OCS fabric yöneticisi OCS'ye o birimi optik olarak atlamasını ve belirlenmiş yedek bir yerde yeni, eksiksiz optik devreler kurmasını emreder. → Donanım sadece yarısı denklemi. Bir TPU süperpodunun gerçek ölçeği, daha hızlı ve verimli sonuçlar için ortak tasarlanmış bir yazılım yığını tarafından açılır. Veri merkezi çapında donanım optimizasyonlarından açık yazılım ve yönetilen hizmetlere kadar tüm yığın boyunca derin entegrasyonlar sayesinde Ironwood TPU'ları bugüne kadarki en güçlü ve enerji verimli TPU'larımızdır.