速報:Amazon AWSがTrainium3 AIチップをリリースしたばかりです Trainium3 UltraServers: – 最大4.4×の高性能 – ~4× より多くのメモリ帯域幅 – 4× Trainium2 UltraServersと比べてワットあたりのパフォーマンス向上 – サーバーあたり144チップ(362FP8 PFLOP)とUltraClustersで1M+チップにスケール AWSはTrainium3をNvidia GPUの低コスト代替として位置づけています。Trainiumベースのインスタンスは、NeuronソフトウェアスタックやTrainiumインスタンスを導入する顧客にとって、大規模モデル上の同等のGPUクラスターに比べてトレーニングコストや推論コストを最大~50%削減できると述べています。