Tutustu uusimpaan tutkimukseemme, jota @rohin_manvi johtaa adaptiivisesta testiaikalaskennasta.
LLM:iä voidaan kouluttaa ennustamaan omaa tulevaisuuttaan, kuinka hyvin he suoriutuvat ja millä ajalla.
Tätä mekanismia voidaan käyttää uutena otantastrategiana testiaikaisen laskennan tehokkuuden parantamiseksi.
🚨Paperi 🚨
Entä jos LLM:t voisivat kertoa epäonnistuvansa ennen kuin päättely on valmis?
Koulutimme malleja ennustamaan omaa tulevaisuuttaan: onnistuvatko ne ja kuinka kauan se kestää. Jokaisessa tokenissa, reaaliajassa, ilman ylimääräistä laskentaa.
Hyödynsimme tätä kehittääksemme adaptiivisen otantaalgoritmin testiaikalaskentaan. 👇🧵