Pokud jste v ICML a máte zájem o ověřitelné dedukce, určitě se zastavte na našem plakátu! Představíme si TOPLOC, efektivní aktivační hashovací metodu, která funguje napříč různými nastaveními, např. přepínáním inferenčních nastavení nebo dokonce modelů. 16. července, 16:30, E-1106
Zde je původní vlákno o TOPLOC, které vysvětluje myšlenky, které za ním stojí:
Prime Intellect
Prime Intellect29. 1. 2025
Dnes vydáváme TOPLOC: Lokálně citlivé hashovací schéma pro ověřitelnou inferenci - Detekuje změny modelů, výzvy nebo přesnost - Robustní napříč typy GPU, tenzorovými paralelními konfiguracemi a jádry pozornosti - Až o 100 × rychlejší ověřování než generace - Snižuje zatížení paměti nátisků o 1000× Budování základů pro decentralizované, ověřitelné výpočetní protokoly.
1,38K