BREAKING: Amazon AWS hat gerade seinen Trainium3 AI-Chip eingeführt Trainium3 UltraServers: – Bis zu 4,4× höhere Leistung – ~4× mehr Speicherbandbreite – 4× bessere Leistung pro Watt im Vergleich zu Trainium2 UltraServers – Skalierung auf 144 Chips (362 FP8 PFLOPs) pro Server und über 1M Chips in UltraClusters AWS positioniert Trainium3 als kostengünstigere Alternative zu Nvidia GPUs. Es wird gesagt, dass Trainium-basierte Instanzen die Trainings- – und oft auch Inferenzkosten – um bis zu ~50% im Vergleich zu vergleichbaren GPU-Clustern bei großen Modellen senken können, für Kunden, die bereit sind, seinen Neuron-Software-Stack und die Trainium-Instanzen zu übernehmen.