AI agenti jsou už nyní velmi schopní. Umí uvažovat, plánovat, generovat kód, vyjednávat a optimalizovat. Přesto většina agentů stále bojuje s autonomním působením v reálném světě. Úzkým hrdlem není zpravodajství, ale autorita.

Zpravodajství odpovídá na otázku: Co by se mělo udělat? Autorita odpovídá na jinou otázku: Co může tento agent dělat? Bez pravomoci je i ten nejchytřejší agent nucen žádat o povolení na každém kroku.

Dnes většina agentů působí s křehkými formami autority: • Peněženky vlastněné lidmi • Sdílené API klíče • Příliš široká povolení • Manuální schvalování Tyto modely nikdy nebyly navrženy pro autonomní aktéry.

Výsledkem je paradox. Agenti jsou schopni rozhodovat, ale nejsou schopni je vykonávat samostatně. Každá smysluplná akce je omezena člověkem, politikou nebo řešením. Autonomie se zastavuje.

Skutečná autorita musí být: • Explicitní: Jasně definované • Zaměřené: Omezené na konkrétní akce • Vymahatelné: Kontrolováno při vykonání • Odvolatelné: Odstranitelné, aniž by systém byl narušen Autorita není implikována. Je to povoleno.

Když je autorita programovatelná, autonomie se stává skutečnou. Agenti můžou: • Jednat v předem definovaných mezích • Provádět transakce bez manuálního schválení • Bezpečně komunikovat s ostatními agenty • Být odpovědný za výsledky Provedení už nezávisí na důvěře nebo dohledu.

Důležité je, že autorita není totéž co moc. Udělení pravomoci neznamená udělení neomezeného přístupu, znamená to přesně zakódovat, kolik svobody má agent. Takto zůstávají systémy bezpečné, když agenti rostou.

To přetváří budoucnost AI. Pokrok nebude poháněn pouze chytřejšími modely. Bude poháněn lepší infrastrukturou pro delegování, kontrolu a odpovědnost.

Agenti nepotřebují další informace. Potřebují autoritu, která je ověřitelná, omezená a vymahatelná už od zamysly. To je základ, který Kite staví 🪁