Gospodarki AI potrzebują torów, a nie reguł na oko. Gdy agenci AI zaczynają ze sobą współdziałać ekonomicznie, płacąc, obciążając, koordynując i optymalizując, wiele systemów wciąż opiera się na nieformalnych wytycznych: limitach wydatków w dokumentach, założeniach dotyczących „rozsądnego zachowania” lub nadzorze ludzkim, gdy coś wydaje się nie tak. Te podejścia mogą działać w przypadku prototypów, ale szybko się psują, gdy agenci działają nieprzerwanie i na dużą skalę.

Wyzwanie polega na tym, że zasady ogólne nie przekładają się na wykonanie przez maszyny. Agenci nie interpretują intencji, kontekstu ani wyjątków tak, jak robią to ludzie. Bez twardych ograniczeń systemy wracają do szerokich uprawnień, reaktywnego monitorowania i ręcznej interwencji po wystąpieniu awarii. Tworzy to kruche gospodarki, w których jeden błąd, wykorzystanie lub błędna konfiguracja mogą natychmiast spowodować lawinę problemów.

Gospodarki AI wymagają infrastruktury, która domyślnie egzekwuje zachowanie. Na Kite działalność gospodarcza odbywa się na torach: weryfikowalna tożsamość agenta, ograniczona władza, programowalne ograniczenia i natywne rozliczenie, które wykonuje się dokładnie tak, jak określono. Zamiast mieć nadzieję, że agenci będą się zachowywać poprawnie, system gwarantuje, co mogą, a czego nie mogą robić. Na dużą skalę, bezpieczna autonomia nie pochodzi z lepszego osądu, lecz z torów, które sprawiają, że wyniki są deterministyczne 🪁