Flexion Roboticsin tuore modulaarisista roboteista kertova video on varsin silmiinpistävä, toimien tasaisesti ja siististi monimutkaisissa maastossa ja katastrofin jälkeisissä siivoustilanteissa, ja projekti valmistuu korkealla suoritusasteella Kuitenkin, kun tällaiset robotit menevät ulos ja kohtaavat täysin hallitsemattoman ympäristön, pelkkä ulkonäkö ei riitä. Todellinen vaikeus ei ole se, pystyykö se suorittamaan tehtävän, vaan miksi se valitsi tämän toiminnon juuri sillä hetkellä? Onko havaintojärjestelmän arvio ympäröivästä ympäristöstä tarkka? Onko koko päätöksentekoprosessi aina noudattanut turvallisuus- ja käyttösääntöjä? Jos nämä ongelmat voidaan ratkaista vain katsomalla lokeja jälkikäteen tai kuuntelemalla valmistajan sanoja, järjestelmä on käytännössä musta laatikko. Kenttäoperaatioissa, katastrofiavussa tai julkisilla paikoilla kukaan ei uskalla olla varma mustasta laatikosta riippumattomasta päätöksenteosta Jotta ulkorobotteja voidaan todella ottaa käyttöön, on oltava todennettavissa olevat päätöksentekotiedot, ei onnettomuuden jälkeen tarkistettavaksi, vaan selvästi todistettavaksi, että jokainen keskeinen toimenpide perustuu luotettavaan havaintoon, noudattavaan päättelyyn ja jäljitettävään toteutukseen. Vasta kun botti alkaa ottaa oikeita riskejä, voi luottaa paitsi siistiin demovideoon, myös tiukkaan, auditoitavaan varmennusmekanismiin #KaitoYap @KaitoAI #Yap @inference_labs