TIN NÓNG: Amazon AWS vừa ra mắt chip AI Trainium3 Máy chủ Trainium3 Ultra: – Hiệu suất cao hơn tới 4.4× – Băng thông bộ nhớ ~4× nhiều hơn – Hiệu suất trên watt tốt hơn 4× so với máy chủ Trainium2 Ultra – Mở rộng lên tới 144 chip (362 FP8 PFLOPs) mỗi máy chủ và hơn 1 triệu chip trong UltraClusters AWS đang định vị Trainium3 như một lựa chọn chi phí thấp hơn so với GPU Nvidia. Họ cho biết các phiên bản dựa trên Trainium có thể giảm chi phí đào tạo – và thường là chi phí suy diễn – lên tới ~50% so với các cụm GPU tương đương trên các mô hình lớn, cho những khách hàng sẵn sàng áp dụng bộ phần mềm Neuron và các phiên bản Trainium.