在我們的新研究中,我們介紹了 AutoJudge —— 一種推理加速方法,能夠學習哪些標記對答案是重要的。 結果?與推測解碼相比,速度提升 1.5-2 倍,並且在與先進技術結合時穩定增長。🚀
此外,請閱讀論文作者提供的詳細討論串:
Max Ryabinin
Max Ryabinin12月5日 02:02
很高興能分享我們最近關於 AutoJudge 的研究,這是一種解碼技術,結合了: - 通過放寬分佈匹配約束來加速推理 - 由於自我監督的訓練協議,使用方便且可擴展 今天在 #NeurIPS2025 發表! (1/9)
作者將在聖地牙哥的 #NeurIPS2025 會議上介紹 AutoJudge。來認識團隊並了解更多關於這個方法的資訊! 🕑12月4日,下午4:30 PST 🗺️展覽廳 C,D,E #2010
2.23K