1/ JSTprove V2 on täällä. Tämä on merkittävä päivitys zkML-pinoamme, jossa on nopeammat piirit, enemmän tuettuja kerroksia, laajempi malliyhteensopivuus ja paljon parempi kehittäjäkokemus. Iso askel kohti käytännöllistä, todennettavaa koneoppimista.
2/ Lähetimme kaksi suurta piirioptimointia. Korvasimme kalliit etäisyystarkistukset hakutaulukoilla ja lisäsimme Freivaldsin algoritmin nopeaan todennäköisyysmatriisivahvistukseen. Molemmat vähentävät merkittävästi rajoituksia ja todistettavaa ylikuormitusta.
3/ Miksi tämä on tärkeää: Etäisyystarkistukset näkyvät kaikkialla koneoppimispiireissä (ReLU, uudelleenskaalaus, maksimi/minimi jne.) ja ne ovat hyvin kalliita. Niiden korvaaminen hakutaulukoilla säästää rajoitteita lähes kaikissa malleissa ja antaa välittömiä suorituskyvyn parannuksia.
4/ Suurissa matriisioperaatioissa käytämme nyt Freivaldsin algoritmia. Kuutioaikaisen varmennuksen sijaan käytämme kvadraattisen ajan todennäköisyystarkistuksia, missä sovellettavissa, mikä vähentää merkittävästi suurten GEMM:ien ja vastaavien operaatioiden varmistamisen kustannuksia.
5/ Laajensimme myös ONNX-kerroksen tukea. JSTprove tukee nyt Add, Sub, Mul, Max, Min, Clip, 4D MaxPool (toistaiseksi) ja BatchNorm, avaten paljon laajemman luokan todellisia malleja.
6/ JSTprove ei enää oleta yhtä syötettä ja lähtöä. Nyt tuemme monisyöttöisiä ja monilähtöisiä ONNX-graafeja. Tämä vaati syvällisiä uudistuksia keskitasolle ja Rust-taustalle, mutta laajensi huomattavasti mallien yhteensopivuutta.
7/ Rakensimme myös testauskehyksen uudelleen. Nyt voit testata yksittäisiä kerroksia, suorittaa kokonaisia putkistotestejä (kvantisointi → piiri → todistaa → todistaa → varmistaa), fuzz-muotoja ja parametreja sekä saada oikeita, hyödyllisiä virheitä tuettomille malleille.
8/ Kerrosten lisääminen kuten BatchNorm pakotti meidät siivoamaan ja modulaarimaan suuria osia taustajärjestelmästä. Tämä tekee tulevista kerrosten lisäyksistä ja optimoinnista paljon nopeampia, turvallisempia ja helpommin perusteltavissa.
9/ Tulos: JSTprove V2 on nopeampi, halvempi todistaa, ilmaisullisempi, kestävämpi ja valmis paljon monimutkaisempiin todellisiin malleihin. Tämä on suuri askel kohti todennettavan koneoppimisen käyttöä tuotannossa.
124