Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
1/ JSTprove V2 je tady.
Jde o zásadní vylepšení našeho zkML stacku s rychlejšími obvody, více podporovanými vrstvami, širší kompatibilitou modelů a mnohem lepší zkušeností vývojářů.
Velký krok směrem k praktickému, ověřitelnému ML.

2/ Dodali jsme dvě hlavní optimalizace obvodů.
Nahrazili jsme drahé kontroly rozsahu tabulkami a přidali Freivaldsův algoritmus pro rychlou pravděpodobnostní ověřování matic. Oba výrazně snižují omezení a režijní náklady na důkaz.
3/ Proč je to důležité:
Kontroly dosahu se objevují všude v ML obvodech (ReLU, rescaling, max/min atd.) a jsou velmi drahé.
Jejich nahrazení vyhledávacími tabulkami šetří omezení téměř u všech modelů a přináší okamžité zlepšení výkonu.
4/ Pro operace s velkými maticemi nyní používáme Freivaldsův algoritmus.
Místo ověření v kubickém čase aplikujeme pravděpodobnostní kontroly v kvadratickém čase, kde je to možné, což dramaticky snižuje náklady na ověřování velkých GEMM a podobných operací.
5/ Také jsme rozšířili podporu vrstev ONNX.
JSTprove nyní podporuje Add, Sub, Mul, Max, Min, Clip, 4D MaxPool (zatím) a BatchNorm, čímž otevírá mnohem širší třídu reálných modelů.
6/ JSTprove již nepředpokládá jeden vstup a výstup.
Nyní podporujeme vícevstupní a vícevýstupní ONNX grafy. To vyžadovalo hluboké refaktory napříč středním koncem a Rust backendem, ale výrazně rozšiřuje kompatibilitu modelů.
7/ Také jsme přestavěli testovací framework.
Nyní můžete testovat jednotlivé vrstvy, provádět kompletní testy pipeline (kvantizace → obvodu → svědectví → ověření → ověření), fuzzovat tvary a parametry a získávat správné, užitečné chyby pro nepodporované modely.
8/ Přidání vrstev jako BatchNorm nás donutilo vyčistit a modularizovat velké části backendu.
To výrazně zrychlí, bezpečnější a usnadňuje budoucí přidávání vrstev a optimalizace.
9/ Výsledek: JSTprove V2 je rychlejší, levnější na ověření, výraznější, robustnější a připravený na mnohem složitější reálné modely.
To je velký krok k tomu, aby bylo ověřitelné strojové učení praktické v produkci.
132
Top
Hodnocení
Oblíbené
