Nghe một tập podcast rất đáng nghe "Silicon Valley 101 | Kỷ nguyên xây dựng cơ sở hạ tầng trị giá hàng nghìn tỷ đô la của trung tâm dữ liệu AI: Tăng trưởng GDP của Mỹ hoàn toàn dựa vào nó". Vì podcast rất dài, nên tôi chia sẻ một số điểm chính mà tôi đã ghi lại, đã tổng hợp một số mục liên quan đến điện và sức mạnh tính toán được đề cập. Nếu có thời gian, vẫn có thể nghe phiên bản đầy đủ. Phần quan điểm: 1️⃣ Những công ty nào là mạnh nhất trong lĩnh vực trung tâm dữ liệu? OpenAI là công ty táo bạo nhất, mục tiêu xây dựng công suất tính toán 10 gigawatt và lâu dài là 100 gigawatt. xAI, Meta cũng rất táo bạo, mua sắm tua-bin điện và chiếm đất đai có năng lượng rẻ để xây dựng trung tâm dữ liệu. (Đầu tư từ 5-7 nghìn tỷ đang trên đường) 1 gigawatt tương ứng với 50 tỷ đô la đầu tư. 2️⃣ Microsoft đang tăng tốc xây dựng trung tâm dữ liệu, trong năm nay đã có sự thay đổi trong suy nghĩ về việc xây dựng trung tâm dữ liệu. Google và Microsoft đã có hơn 10 gigawatt trung tâm đám mây. Do đó, các công ty AI mới nổi sẽ càng táo bạo hơn. 3️⃣ Chip không khan hiếm như năng lượng. Trong 2 năm qua, công suất chip đã được mở rộng. Thiếu hụt bộ nhớ sẽ lớn hơn một chút, nhưng thiếu hụt lớn nhất vẫn đến từ điện. 4️⃣ Logic đằng sau chiến lược Power First: Ai có điện thì có thể sử dụng một lượng lớn sức mạnh tính toán, từ đó chiếm lĩnh thị trường lớn hơn, tạo ra lợi nhuận và lặp lại quá trình này. Rủi ro "đầu tư không đủ" lớn hơn nhiều so với rủi ro "đầu tư quá mức". 5️⃣ Andy cho, Bill lấy. Andy chỉ cựu CEO Intel Andy Grove, Bill chỉ cựu CEO Microsoft Bill Gates, câu này có nghĩa là, hiệu suất phần cứng được cải thiện nhanh chóng bị phần mềm tiêu thụ. Hiện tại, trong các công ty lớn (như META), GPU nội bộ không đủ, cần rất nhiều sức mạnh tính toán cho nội bộ. Ngay cả khi có sức mạnh tính toán dư thừa, nó có thể được sử dụng để giảm chi phí nội bộ. 6️⃣ Tại sao phải xây dựng trung tâm dữ liệu lớn (lớn hơn 1 gigawatt)? Giảm chi phí vận hành + cung cấp hiệu quả đào tạo AI. Xu hướng là từ cụm 10.000 thẻ đến cụm 100.000 thẻ hoặc thậm chí lớn hơn. 7️⃣ Sức mạnh tính toán được sử dụng ở đâu? Hai năm trước, nhiều sức mạnh tính toán hơn được sử dụng cho đào tạo trước, đào tạo trước không tạo ra lợi nhuận, hiện tại nhiều hơn chuyển sang suy diễn (60%), dự kiến tỷ lệ ứng dụng và suy diễn sẽ tiếp tục tăng (thực sự tạo ra GDP). 8️⃣ Sức mạnh tính toán nhàn rỗi có thể được các công ty khởi nghiệp sử dụng cho suy diễn, nhưng phù hợp hơn với startup chứ không phải công ty lớn, công ty lớn quan tâm nhiều hơn đến hiệu quả. 9️⃣ Nguồn điện của trung tâm dữ liệu ⚡️: Hệ thống điện của Mỹ trong 20 năm qua tăng trưởng chậm, tăng 1% mỗi năm, chậm hơn nhiều so với tốc độ tăng trưởng của trung tâm dữ liệu. Nhu cầu mới: Mỹ cần tăng thêm 80 gigawatt công suất phát điện, Thiếu hụt: 20 gigawatt mỗi năm (8 gigawatt đến từ trung tâm dữ liệu) Nhu cầu điện hàng năm của New York từ 6-11 gigawatt Cung cấp: chủ yếu là khí tự nhiên, năng lượng mặt trời lưu trữ, năng lượng hạt nhân (sau năm 2028) 🔟 Lưới điện Mỹ yếu: Phát điện (50%) - Truyền tải (20%) - Phân phối (30%). Lưới điện hiện tại cũng gặp khó khăn trong việc hấp thụ lượng phát điện mới này. Đơn đặt hàng tua-bin khí đã kéo dài đến năm 2028, Musk đã quét sạch 70% kho hàng trên toàn nước Mỹ....