Tekoälyjärjestelmät muuttuvat päivä päivältä älykkäämmiksi. Mutta pelkkä älykkyys ei tee järjestelmästä luotettavaa. Itse asiassa, mitä itsenäisemmäksi agentti tulee, sitä vaarallisempaa vahvistamaton tiedustelu voi olla.

Älykkyys vastaa kysymyksiin kuten: • Voiko tämä agentti järkeillä? • Voiko se suunnitella? • Voiko se toimia tehokkaasti? Trust vastaa täysin eri kysymyksiin: • Saitko toimia? • Pysyikö se rajoissa? • Voidaanko sen toimet todistaa jälkikäteen?

Erittäin älykäs agentti ilman turvatoimia voi silti: • Ylittää toimivaltansa • Väärinkäyttöoikeudet • Suorittaa toimia, joita kukaan ei voi tarkastaa tai selittää Fiksu käytös ei takaa vastuullista toimintaa.

Siksi luottamusta ei voi päätellä pelkästään lopputuloksista. Luottamus on suunniteltava järjestelmään seuraavasti: • Todennettavissa oleva identiteetti • Eksplisiittiset oikeudet • Auditoitava toteutus Ilman näitä tiedustelu muuttuu läpinäkymättömäksi — epäluotettavaksi.

Autonomisten järjestelmien tulevaisuutta ei määritetä sen mukaan, kuinka älykkäitä agentit ovat. Se määritellään sen mukaan, kuinka hyvin heidän toimintansa voidaan todentaa, rajoittaa ja selittää. Se on se perusta, jota Kite rakentaa 🪁