Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
AI @apple
Khám phá thú vị về suy diễn phân tán trên phần cứng không đồng nhất. Bao gồm cả silicon của Apple với MLX:
21:00 2 thg 8
Trí tuệ đã bị khóa trong những khu vườn có tường. Hôm nay, chúng tôi mở cổng.
Parallax hiện đang hoạt động ở chế độ Hybrid, với Macs và GPU phục vụ các mô hình lớn cùng nhau trong một khung phân phối thực sự.
15,39K
Trí tuệ siêu việt trong túi của bạn sẽ trở thành hiện thực. Và nếu bạn muốn tăng tốc thời gian, hãy liên hệ với tôi.
Chúng tôi đang làm việc này ở mọi cấp độ với MLX.
07:48 6 thg 8
Một ngày nào đó, một thứ thông minh hơn cả người thông minh nhất mà bạn biết sẽ chạy trên một thiết bị trong túi của bạn, giúp bạn với bất cứ điều gì bạn muốn.
Đây là một điều rất đáng chú ý.
61,27K
Siêu trí tuệ trong túi của bạn sắp trở thành hiện thực. Và nếu bạn muốn tăng tốc thời gian, hãy liên hệ với tôi.
Chúng tôi đang làm việc này ở mọi cấp độ với MLX.
07:48 6 thg 8
Một ngày nào đó, một thứ thông minh hơn cả người thông minh nhất mà bạn biết sẽ chạy trên một thiết bị trong túi của bạn, giúp bạn với bất cứ điều gì bạn muốn.
Đây là một điều rất đáng chú ý.
198
Tôi chỉ mới bắt đầu chơi với nó, nhưng mô hình có vẻ tuyệt vời cho đến nay.
Nhưng nó cũng có một số đặc điểm riêng trong việc triển khai:
- Một giao thức trò chuyện mới
- Chỉ có sẵn trong định lượng fp4
- Attention sink, điều này làm hỏng attention kết hợp
Các mô hình mở phát triển nhanh và tôi tự hỏi có nên đầu tư bao nhiêu thời gian để hỗ trợ những tính năng này? Liệu OpenAI có mở mã nguồn thêm nhiều mô hình nữa không?
12:43 6 thg 8
Mô hình MoE 120B mới của OpenAI hoạt động tốt trong mlx-lm trên M3 Ultra.
Chạy với độ lượng tử 8-bit:
170
Hàng đầu
Thứ hạng
Yêu thích