🧵Useimmat tekoälyagentit nykyään luottavat edelleen ihmisille suunniteltuun infrastruktuuriin. 👇🏻 Pankkitilit. Manuaaliset hyväksynnät. Istuntoon perustuvat kirjautumiset. Työajat. Näitä järjestelmiä ei ole rakennettu autonomisille ohjelmistoille, ja se näkyy.

Ihmisen järjestelmät olettavat: • Aikomus on inhimillinen • Päätökset ovat harvinaisia • Virheet voidaan korjata manuaalisesti • Luottamus on sosiaalista tai laillista Tekoälyagentit rikkovat kaikki nämä oletukset. Ne toimivat jatkuvasti, koneen nopeudella, ilman kontekstia tai arvosteluja.

Kun agentit pakotetaan ihmisten järjestelmiin, autonomia heikkenee. Agentit päätyvät: • Hyväksyntöjen odotus • Toiminta liian laajoilla käyttöoikeuksilla • Luottaminen hauraisiin API-kiertoteihin • Kontrollin palauttaminen ihmisille reunatapauksissa Tuloksena on automaatio, joka näyttää autonomiselta, mutta ei ole.