Een robot die geaccepteerd kan worden, moet bestand zijn tegen verificatie! De reden dat chirurgische robots geaccepteerd kunnen worden, is niet omdat ze er slim uitzien, maar omdat de precisie vanaf het begin onwrikbaar is. Elke beweging, elke beslissing moet controleerbaar, reproduceerbaar en aansprakelijk zijn. Naarmate de autonomie blijft toenemen, zal deze standaard alleen maar hoger worden, niet lager. Regulering, veiligheidsbeoordelingen, klinische implementatie, accepteren nooit de uitspraak dat het systeem op dat moment correct was. In een hoog-risico omgeving is "geloof me" op zichzelf al een onacceptabel antwoord. De echte vraag is: Waarom maakte het systeem op dat moment die beslissing? Is het gebruik gemaakt van het verklaarde model? Is het redeneerproces gemanipuleerd of gedegradeerd? Als deze niet geverifieerd kunnen worden, kan autonomie niet op grote schaal worden toegepast. De betekenis van Proof of Inference ligt hier. Het maakt het systeem niet complexer, maar zorgt ervoor dat elke autonome beslissing verifieerbaar is. Geen achteraf uitleggen, maar op het moment van de actie kunnen bewijzen dat het inderdaad volgens de regels heeft gewerkt. Wanneer autonome systemen de gezondheidszorg, industrie, openbare veiligheid en andere kritieke gebieden binnengaan, is verificatie geen optionele aanvulling meer, maar de voorwaarde voor het bestaan van autonomie. #KaitoYap @KaitoAI #Yap @inference_labs