Flexion Robotics' nylige video av modulære roboter er svært iøynefallende, og kjører jevnt og pent i komplekse terreng- og oppryddingsscenarier etter katastrofer, og prosjektet fullføres med høy grad av fullføring Men når slike roboter faktisk går utendørs og møter et helt ukontrollerbart miljø, er det ikke nok å se bra ut. Den virkelige vanskeligheten er ikke om den klarer å fullføre oppgaven, men hvorfor den valgte denne handlingen akkurat da? Er persepsjonssystemets vurdering av omgivelsene nøyaktig? Har hele beslutningsprosessen alltid fulgt bunnlinjen for sikkerhet og driftsregler? Hvis disse problemene bare kan løses ved å gå gjennom loggene i etterkant, eller lytte til hva produsenten har å si, er systemet i praksis en svart boks. I feltoperasjoner, katastrofehjelp eller offentlige steder tør ingen å være trygge på uavhengige beslutninger i svart boks For å virkelig kunne sette inn utendørsroboter må det finnes verifiserbare beslutningsdokumenter, ikke for å gjennomgå etter en ulykke, men for å tydelig bevise at hver nøkkelhandling er basert på pålitelig oppfatning, samsvarende resonnement og sporbar utførelse. Først når boten begynner å ta reelle risikoer kan man stole på ikke bare en kul demovideo, men også en grundig, reviderbar verifiseringsmekanisme #KaitoYap @KaitoAI #Yap @inference_labs