Một câu chuyện thông thường mà bạn có thể gặp là AI đã phát triển quá xa để một startup mới, tập trung vào nghiên cứu có thể cạnh tranh và thực hiện tốt hơn các công ty hiện tại trong lĩnh vực AI. Đây chính xác là cảm giác mà tôi thường nghe thấy khi OpenAI bắt đầu ("làm thế nào mà vài người các bạn có thể cạnh tranh với Google?") và 1) điều đó rất sai, và sau đó 2) nó lại rất sai một lần nữa với một loạt các startup khác hiện đang thách thức OpenAI, và theo ý kiến của tôi, điều đó vẫn tiếp tục sai cho đến hôm nay. Việc mở rộng và cải thiện những gì hoạt động sẽ tiếp tục tạo ra những bước tiến đáng kinh ngạc, nhưng với quá nhiều tiến bộ được mở khóa quá nhanh, với quá nhiều bụi được tung lên không trung trong quá trình này, và với một khoảng cách lớn giữa các LLM tiên tiến và ví dụ chứng minh cho phép ma thuật của một bộ não hoạt động với 20 watt, xác suất của những đột phá nghiên cứu mang lại cải tiến gần 10X (thay vì 10%) theo ý kiến của tôi vẫn cảm thấy rất cao - đủ cao để tiếp tục đặt cược và tìm kiếm. Phần khó khăn là tạo ra các điều kiện mà những đột phá như vậy có thể được phát hiện. Tôi nghĩ rằng một môi trường như vậy hiếm khi hình thành, nhưng @bfspector & @amspector100 là những người xuất sắc, với sự hiểu biết toàn diện (hiếm có) về LLM từ trên xuống dưới (toán học/thuật toán) đến dưới cùng (megakernels/các liên quan), họ có con mắt tuyệt vời cho tài năng và tôi nghĩ sẽ có thể xây dựng điều gì đó rất đặc biệt. Chúc mừng về việc ra mắt và tôi mong chờ những gì bạn sẽ tạo ra!