.@JDVance + những người bạn tốt nhất!!

Cả hai đều rất lớn. Cảm ơn bạn đã chú ý đến vấn đề này!!

Một ghi chú thú vị trong cuộc chiến AI sẽ là cách mà Bài Học Đắng áp dụng cho nguồn nhân lực làm việc trong lĩnh vực AI. Một bên là cơn sốt tuyển dụng này (Google, Microsoft, Meta) và các loại nhân sự (Tiến sĩ, chuyên gia) đang được tuyển dụng ngay bây giờ so với bên kia là phương pháp xAI (các phương pháp máy tính và tổng hợp). Trả cho một người 1 tỷ đô la HOẶC mua thêm 1 tỷ đô la tính toán.

.@JonathanRoss321 (nhà phát minh và cha đẻ của TPU) và tôi đã đặt cược này vào năm 2017. @GroqInc hiện là giải pháp suy diễn nhanh nhất trên thị trường ngày nay. Dưới đây là một số bài học đã học được cho đến nay: - Nếu chúng ta giả định rằng chúng ta đạt được Siêu Trí Tuệ và sau đó là Trí Tuệ Chung, toàn bộ trò chơi sẽ hội tụ vào Suy Diễn. Kiến trúc thiết kế cho Suy Diễn không thể khác biệt hơn so với Đào Tạo. Các yếu tố về bộ nhớ và năng lượng hoàn toàn khác nhau. Tốc độ là điều tối quan trọng. - Bắt đầu với một nút quy trình đã được chứng minh, rẻ và có sẵn cao và giữ trên đường cong đó. Tích lũy độ phức tạp (ví dụ 2nm) và các vấn đề về năng suất vào một chip Suy Diễn sẽ dẫn đến chi phí cho mỗi token đầu ra mà sẽ không hợp lý về mặt thương mại. - Tất cả đều liên quan đến tính khả dụng và sự đa dạng của mô hình. Nếu chip của bạn về cơ bản là một ASIC cho một mô hình, bạn sẽ cần phải sử dụng nó ở quy mô lớn bên trong (ví dụ Google và TPU) hoặc bạn sẽ cần khuyến khích các công ty ứng dụng xây dựng cho nó (ví dụ Amazon với Anthropic và Inferentia). Dù sao, tôi là một fan lớn của hướng đi này, nhưng Meta sẽ cần tránh một số ổ gà trong chiến lược thực hiện. Tôi chúc họ thành công - nhiều giải pháp thì tốt hơn theo ý kiến của tôi.

Hoặc bất kỳ ai làm Dojo... ôi khoan đã!

Một hệ quả quan trọng cho những ai muốn có tầm quan trọng trực tuyến: Ảnh hưởng và sự nổi tiếng là những bài tập giá trị tuyệt đối. Sự chú ý tiêu cực hay tích cực không quan trọng. Điều quan trọng là dân số đang nói về bạn chứ không phải ai khác. Khi bạn đo lường sự tăng trưởng người đăng ký/người theo dõi của mình theo cách này, bạn sẽ thấy điều này ẩn hiện ngay trước mắt.

Coinbase đã gửi cho tôi một trong những thẻ kỷ niệm Satoshi Nakamoto Coinbase One hiếm hoi của họ (1 trong 21). Tôi rất hào hứng để có được thẻ của riêng mình vào mùa thu, thẻ này sẽ hoàn lại 4% qua Bitcoin. BTC muôn năm! Cảm ơn @coinbase @brian_armstrong @immuneeb

“Tôi đã mất nhiều năm để nôn ra tất cả những điều bẩn thỉu mà tôi đã được dạy về bản thân mình, và nửa tin nửa ngờ, trước khi tôi có thể bước đi trên trái đất như thể tôi có quyền ở đây.” ― James Baldwin

Với tất cả những tiến bộ đang được thực hiện trong chất lượng mô hình trên "silicon tổng quát" bởi các nhà sản xuất mô hình cơ bản, đã đến lúc chuyển các mô hình này sang nhiệm vụ thiết kế silicon chuyên dụng của riêng chúng theo từng trường hợp sử dụng. Điều này hiện đang xảy ra ở một mức độ nhỏ nhưng các hạn chế về nguồn cung sẽ buộc nhiều nhà sản xuất mô hình nhận ra nhu cầu thiết kế silicon tùy chỉnh. Một số hạn chế là quan trọng, tuy nhiên, cho thách thức thiết kế này. Điều quan trọng nhất là duy trì một thiết kế hữu ích ở một nút quy trình không tiên tiến để bạn không tạo ra các hạn chế về nguồn cung hoặc vấn đề về năng suất và không phải đấu tranh với vật lý ở cấp độ electron. Thứ hai sẽ là cách bạn thiết kế việc sử dụng bộ nhớ - cache so với HBM cho từng trường hợp sử dụng là một nghịch lý rõ ràng. Làm mát là một vấn đề khác. Tôi đã làm việc với một kỹ sư tuyệt vời để thiết kế một máy bơm nhiệt làm lạnh bằng CO2. Nếu nó hoạt động, các giá đỡ, hệ thống và chip nên xem xét điều này và làm việc để tận dụng những động lực làm mát khác nhau này vì nó tạo ra ít hạn chế hơn. Vân vân vân vân. Dù sao, tôi chỉ thấy rõ rằng trong năm năm tới, chúng ta sẽ nhìn lại và sự đa dạng silicon sẽ bùng nổ. Tôi mong đợi sẽ thấy rất nhiều thông báo về các chip mới bắt đầu với việc tiền huấn luyện và sau đó chuyển sang suy diễn.

🤔 Tối thiểu, chắc chắn có một số "AI có" và "AI không có" trong số 10 cái hàng đầu.