Większość agentów AI dzisiaj wciąż polega na infrastrukturze zaprojektowanej dla ludzi. Konta bankowe. Ręczne zatwierdzenia. Logowanie oparte na sesji. Godziny pracy. Te systemy nie zostały stworzone dla autonomicznego oprogramowania, i to widać.

Systemy ludzkie zakładają: • Intencja jest ludzka • Decyzje są rzadkie • Błędy można rozwiązać ręcznie • Zaufanie jest społeczne lub prawne Agenci AI łamią wszystkie te założenia. Działają nieprzerwanie, z prędkością maszyny, bez kontekstu lub oceniania.

Kiedy agenci są zmuszani do działania w ludzkich systemach, autonomia ulega degradacji. Agenci kończą: • Czekając na zatwierdzenia • Działając z nadmiernymi uprawnieniami • Polegając na kruchych obejściach API • Oddając kontrolę ludziom w przypadkach granicznych Wynikiem jest automatyzacja, która wygląda na autonomiczną, ale nią nie jest.

Bezpieczeństwo również cierpi. Systemy ludzkie są zbudowane wokół: • Długoterminowych poświadczeń • Dostępu typu wszystko albo nic • Implicytnego zaufania do posiadaczy kont Dla agentów stwarza to niepotrzebne ryzyko: Jeden wyciek klucza może oznaczać nieograniczoną władzę.

Płatności to miejsce, w którym niedopasowanie staje się oczywiste. Ludzkie systemy płatności oczekują: • Interaktywnej potwierdzenia • Odwracalnych transakcji • Rekonsyliacji off-chain Agenci potrzebują: • Deterministycznych wyników • Programowego rozliczenia • Weryfikowalnej przez maszyny ostateczności Ludzkie systemy wprowadzają niepewność, z którą agenci nie mogą sobie poradzić.

Zgodność i odpowiedzialność nie przekładają się na czystość. Systemy ludzkie opierają się na: • Politykach • Warunkach korzystania z usług • Egzekwowaniu po fakcie Autonomiczne agenty wymagają: • Egzekwowalnych ograniczeń • Weryfikowalnych dzienników działań • Kryptograficznych śladów audytowych Zasady muszą być wykonalne, a nie tylko zapisane.

Dlatego wymagane są systemy natywne dla agentów. Infrastruktura natywna dla agentów zakłada: • Oprogramowanie ma władzę • Uprawnienia są ograniczone i mogą być cofnięte • Działania są z definicji możliwe do udowodnienia • Płatności są częścią wykonania, a nie UX Autonomia działa tylko wtedy, gdy system jest zaprojektowany z myślą o tym.

Przyszłość AI nie będzie budowana poprzez dostosowywanie ludzkich systemów. Będzie budowana poprzez zastępowanie ich infrastrukturą zaprojektowaną dla agentów od podstaw. To jest kierunek, w którym zmierza Kite 🪁