Một mối quan hệ nghịch lý trong công nghệ, liên quan đến nghịch lý Jevon nhưng hơi khác một chút: Các chip AI hiện có sẵn ngày hôm nay Nhưng bạn có thể triển khai các chip hiệu quả hơn một cách hiệu quả hơn trong 3 năm tới Có gì gấp gáp? Một công nghệ đang ở giữa sự giảm giá nhanh chóng gần như chắc chắn sẽ phân chia thị trường giữa những người tin rằng việc có quyền truy cập vào công nghệ kém hơn hôm nay sẽ mang lại cho họ vị trí tốt hơn trong tương lai và những người nghĩ rằng tốt nhất là hoạt động một hoặc hai nút phía sau. Chi phí để tạo ra token đang sụp đổ. Và vẫn chưa, các nhà cung cấp mô hình AI đang phải trả giá đắt - cũng như người dùng của họ - để tạo ra các token hôm nay mà sẽ trông cực kỳ kém hiệu quả vào ngày mai. Hoặc là những người dùng tích cực đang bị lạc lối, hoặc chi phí thời gian của việc không tạo ra token phải vượt quá ngay cả đường cong hiệu suất dốc mà việc tạo ra token đang theo. Về cơ sở phần cứng - bỏ qua các cải tiến kiến trúc - chi phí để tạo ra token đang giảm khoảng một nửa hàng năm. Điều này phải có nghĩa là lợi tức cảm nhận được từ việc tạo ra token ít nhất là 100% hàng năm. Một gigawatt tính toán hôm nay có giá trị như 2 GW vào năm tới. Điều này dẫn đến, gần như không thể tránh khỏi, tính toán không gian. Nhạy cảm với các đầu vào khác nhau, có vẻ như tính toán AI dựa trên không gian trở nên hiệu quả về chi phí so với tính toán AI trên mặt đất trên cơ sở mỗi token ở mức khoảng 400 đô la mỗi kg trong chi phí phóng. Mặc dù chưa đến đó, Starship với khối lượng hợp lý - điều mà chúng tôi mong đợi SpaceX sẽ cung cấp vào năm 2030 trước khi cơ hội tính toán không gian xuất hiện - nên vượt qua ngưỡng chi phí đó. Tuy nhiên, quan trọng hơn chi phí là thời gian. Các công ty AI hiện đang thiếu hụt flops. Trên toàn ngành, chúng tôi kỳ vọng các trung tâm dữ liệu trên mặt đất sẽ lắp đặt 90GW vào năm 2030, đã xây dựng tổng cộng 250GW giữa bây giờ và lúc đó. Điều này có thể nhưng là một mục tiêu tham vọng khi xem xét khó khăn trong việc xây dựng cơ sở hạ tầng thực tế ở những nơi thực tế có người thực (những người có thể tự mình đứng trước một chiếc máy ủi vì họ đã đọc cuốn sách mà phóng đại việc sử dụng nước của trung tâm dữ liệu lên 1000 lần.). ...