Trong nghiên cứu mới của chúng tôi, chúng tôi giới thiệu AutoJudge — một phương pháp tăng tốc suy diễn học cách xác định các token nào quan trọng cho câu trả lời. Kết quả? Tăng tốc độ từ 1.5-2x so với giải mã suy đoán, và có những cải tiến ổn định khi kết hợp với các kỹ thuật tiên tiến. 🚀
Ngoài ra, hãy đọc chủ đề với chi tiết từ các tác giả của bài báo:
Max Ryabinin
Max Ryabinin02:02 5 thg 12
Rất hào hứng khi chia sẻ nghiên cứu gần đây của chúng tôi về AutoJudge, một kỹ thuật giải mã kết hợp: - Tăng tốc độ suy diễn thông qua việc nới lỏng ràng buộc khớp phân phối - Dễ sử dụng và khả năng mở rộng nhờ vào một giao thức đào tạo tự giám sát Trình bày tại #NeurIPS2025 hôm nay! (1/9)
Các tác giả sẽ trình bày AutoJudge tại #NeurIPS2025 ở San Diego. Gặp gỡ đội ngũ và tìm hiểu thêm về phương pháp! 🕑Ngày 4 tháng 12, 4:30PM PST 🗺️Hội trường triển lãm C,D,E #2010
2,24K