Tekoälytaloudet tarvitsevat kiskoja, eivät nyrkkisääntöjä. Kun tekoälyagentit alkavat olla taloudellisesti vuorovaikutuksessa keskenään, maksavat, veloittavat, koordinoivat ja optimoivat, monet järjestelmät luottavat edelleen epävirallisiin ohjeisiin: dokumenttien kulutusrajoihin, oletuksiin "kohtuullisesta käytöksestä" tai ihmisen valvontaan, kun jokin tuntuu oudolta. Nämä lähestymistavat saattavat toimia prototyypeille, mutta ne hajoavat nopeasti, kun agentit toimivat jatkuvasti ja laajassa mittakaavassa.

Haasteena on, että nyrkkisäännöt eivät siirry koneen toteutukseen. Agentit eivät tulkitse aikomusta, kontekstia tai poikkeuksia samalla tavalla kuin ihmiset. Ilman kovia raiteita järjestelmät palaavat laajoihin käyttöoikeuksiin, reaktiiviseen seurantaan ja manuaaliseen puuttumiseen vikojen sattuessa. Tämä luo hauraita talouksia, joissa yksittäinen virhe, hyväksikäyttö tai väärä konfigurointi voi kaskadoitua välittömästi.

Tekoälytaloudet vaativat infrastruktuuria, joka valvoo käyttäytymistä oletuksena. Kitellä taloudellinen toiminta kulkee raiteilla: todennettavissa oleva agentin identiteetti, laajennettu auktoriteetti, ohjelmoitavat rajoitteet ja natiivi ratkaisu, joka suoritetaan täsmälleen määritellyllä tavalla. Sen sijaan, että toivottaisiin agenttien käyttäytyvän oikein, järjestelmä takaa, mitä he voivat ja eivät voi tehdä. Laajassa mittakaavassa turvallinen autonomia ei tule paremmasta harkinnasta, vaan raiteista, jotka tekevät lopputuloksista deterministisiä 🪁