AI heeft ZK nodig : ZK-bewijzen voor de waarborging van vertrouwen in on-device uitvoerende LLM's Het ZK Coprocessor-project @lagrangedev heeft tijdens het "Verifying Intelligence"-evenement, georganiseerd door Google Cloud en HouseofZK, een presentatie gegeven over het leveren van ZK-bewijzen voor Google's Gemma3. Gemma 3 is een lichtgewicht, hoogpresterende "on-device" LLM ontwikkeld door Google. In tegenstelling tot grote AI-modellen zoals GPT, die op een centrale server draaien en resultaten ontvangen, draait Gemma3 op het apparaat van de gebruiker en voert het inferenties uit met een lichtgewicht model. On-device LLM's maken het mogelijk om AI te gebruiken zonder netwerkverbinding, en omdat gegevens niet naar een centrale server hoeven te worden verzonden, wordt de privacy gewaarborgd. Bovendien zijn de operationele kosten van de centrale server, die het grootste deel van de kosten voor het gebruik van AI zoals GPT uitmaken, aanzienlijk lager, wat een groot voordeel biedt. Echter, het draaien van het model lokaal betekent ook dat men niet kan rekenen op het vertrouwen van de centrale server. Er is een mogelijkheid dat de lokale uitvoeringsomgeving is gemanipuleerd, en men moet de inferentieresultaten 'zelf' volledig vertrouwen. In dergelijke gevallen wordt een ZK Coprocessor zoals Lagrange's DeepProve gebruikt. DeepProve genereert de uitvoer van Gemma3 die lokaal is uitgevoerd in de vorm van een ZK-bewijs. Met dit ZK-bewijs kunnen gebruikers van Gemma3 automatisch verifiëren dat - het model de juiste invoer heeft ontvangen, - Gemma3 correct heeft berekend zoals ontworpen, - zonder blootstelling van gevoelige informatie. In feite past deze combinatie van lichtgewicht lokale uitvoerende LLM's en ZK Coprocessors zeer goed bij blockchain + AI. Gedecentraliseerde blockchain-knooppunten kunnen inferentieresultaten leveren via lichtgewicht, hoogpresterende LLM's zoals Gemma3, en deze indienen als ZK-bewijzen, wat betrouwbare gedistribueerde AI mogelijk maakt. Uiteindelijk is een ZK-bewijsinfrastructuur die vertrouwen kan waarborgen essentieel in het tijdperk van on-device uitvoering van AI. AI-specifieke ZK Coprocessors zoals Lagrange's DeepProve zullen een belangrijke rol spelen in dit proces.