Hyväksyttävät robotit täytyy varmistaa kokemuksella! Kirurgiset robotit hyväksytään ei siksi, että ne näyttävät älykkäiltä, vaan koska tarkkuus on alusta alkaen neuvoteltavissa. Jokaisen teon, jokaisen tuomion on oltava hallittavissa, toistettavissa ja vastuussa. Kun autonomia jatkaa nousuaan, tämä taso tulee vain nousemaan, ei matalammaksi. Valvonta, turvallisuustarkastus, kliininen laskeutuminen, en koskaan hyväksy tuomiota siitä, että järjestelmä oli oikea silloin. Korkean riskin ympäristössä "luota minuun" on itsessään ehdoton vastaus. Todellinen ongelma on: Miksi järjestelmä teki tuon päätöksen juuri silloin? Onko se julistettu malli? Onko päättelyprosessia manipuloitu tai heikentynyt? Jos näitä ei voida vahvistaa, autonomiaa ei voi laajentaa. Päättelyn todistuksen merkitys löytyy tästä. Kyse ei ole järjestelmän monimutkaistamisesta, vaan siitä, että jokainen autonominen päätös olisi todennettavissa. Sen sijaan, että selitettäisiin jälkikäteen, kun toiminta tapahtuu, voidaan todistaa, että se on toiminut sääntöjen mukaisesti. Kun autonomiset järjestelmät siirtyvät keskeisiin aloihin kuten terveydenhuoltoon, teollisuuteen ja yleiseen turvallisuuteen, varmennus ei ole enää lisävaihtoehto, vaan autonomian edellytys. #KaitoYap @KaitoAI #Yap @inference_labs