En annen god innsikt fra @karpathy, som påpeker viktigheten av AI-verifiserbarhet "Jeg tror den sterkeste analogien er AI som et nytt databehandlingsparadigme (Software 2.0) ... Programvare 1.0 automatiserer enkelt det du kan spesifisere. Programvare 2.0 automatiserer enkelt det du kan verifisere. ... I dette nye programmeringsparadigmet er altså den mest prediktive funksjonen å se på verifiserbarhet. Hvis en oppgave/jobb kan verifiseres, kan den optimaliseres direkte eller via forsterkningslæring, og et nevralt nettverk kan trenes til å fungere ekstremt godt." Verifiserbarhet i denne innrammingen dreier seg mer om trenings-/optimaliseringskontekst – evalueringen av om en AIs output er korrekt + muliggjøre bedre automatisering på grunn av det. Verifiserbarhet i AI + krypto er mer fokusert på utførelseskonteksten. - Kan vi verifisere at input, modell og output er korrekte og ikke har blitt tuklet med (verifiserbar slutning) - Kan hvem som helst i verden utføre denne slutningen på nytt og få samme resultat i dag, i morgen og om 1 år (deterministisk slutning) - Kan vi verifisere den eksakte koden som kjører denne agenten (verifiserbar kjøretid) - Kan vi verifisere at kun agenten har tilgang til, og mulighet til å transhandle fra, sin lommebok (verifiserbar kjøretid) - Kan vi verifisere omdømmet til denne agenten (ERC-8004)