Mục tiêu của tôi trong năm nay: làm cho AI địa phương dễ dàng và thú vị khi sử dụng, trên điện thoại, laptop, các tác nhân lập trình, discord, trình duyệt và thậm chí trên ESP. Bạn sẽ có thể nói chuyện với một chiếc đồng hồ Apple, chạy một mô hình địa phương khi gọi, để nó lập trình cho bạn, v.v.. Kimi trên 150gb vram GLM-5 trên 150gb vram MiniMax-M2.5 trên 48gb vram QuantForge cho phép bạn lấy bất kỳ mô hình nào, trên bất kỳ phần cứng nào. Chọn kích thước mục tiêu và bộ dữ liệu hiệu chuẩn và sau đó cắt tỉa và lượng tử hóa nó. Làm việc trên macbook của tôi, tôi đang thu hoạch và lượng tử hóa một số mô hình nhỏ. Đến cuối năm, tôi sẽ làm cho tôi và bất kỳ ai cũng có thể đưa bất kỳ mô hình nào phù hợp với bất kỳ phần cứng nào. Hiện tại nó sử dụng phần cứng địa phương nhưng tôi sẽ tích hợp với Prime Intellect. Sẽ thêm một số tính năng để chia sẻ bộ dữ liệu, và xây dựng một cái từ nhiều thành phần độc lập.