Směrování pro LLM do budoucna Navrhuje Lookahead, směrovací framework, který umožňuje informovanější směrování bez úplného odvozování. Dosahuje průměrného nárůstu výkonu o 7,7 % oproti nejmodernějšímu modelu. Zde je důvod, proč to funguje: Lookahead je nový framework pro směrování v multi-LLM systémech, který rozhoduje, který model by měl zpracovat každý dotaz. Klíčová myšlenka: Namísto směrování založeného pouze na vstupním dotazu předpovídá Lookahead latentní reprezentace potenciálních odpovědí, což mu poskytuje "náhled" na to, co by každý model řekl, aniž by plně generoval text. Chytřejší rozhodnutí: Díky této predikci s ohledem na odezvu je směrování citlivější na kontext a přesnější, zejména u úloh s otevřeným koncem nebo řízených preferencemi. Efektivní učení: Je vysoce datově efektivní, dosahuje plného výkonu s pouhými 16 % trénovacích dat ve srovnání se základními hodnotami a učí se lepší sémantické reprezentace pro směrování. Duální design: Pracuje s kauzálními i maskovanými variantami LM a zobecňuje napříč více architekturami. Výkon: Překonává nejmodernější metody směrování v sedmi srovnávacích testech, přičemž největší přínosy přináší v nuancovaných a kreativních úlohách. Výhledy do budoucna ukazují, že přidání zjednodušené generativní prognózy může zvýšit adaptivitu a efektivitu více modelů, aniž by bylo nutné úplné odvození modelu.