Les agents AI sont déjà très capables. Ils peuvent raisonner, planifier, générer du code, négocier et optimiser. Pourtant, la plupart des agents ont encore du mal à fonctionner de manière autonome dans le monde réel. Le goulot d'étranglement n'est pas l'intelligence, c'est l'autorité.
L'intelligence répond à la question : Que faut-il faire ? L'autorité répond à une question différente : Que cet agent est-il autorisé à faire ? Sans autorité, même l'agent le plus intelligent est contraint de demander la permission à chaque étape.
Aujourd'hui, la plupart des agents fonctionnent avec des formes d'autorité fragiles : • Portefeuilles détenus par des humains • Clés API partagées • Permissions trop larges • Approbations manuelles Ces modèles n'ont jamais été conçus pour des acteurs autonomes.
Le résultat est un paradoxe. Les agents sont capables de prendre des décisions mais incapables de les exécuter de manière indépendante. Chaque action significative est bloquée par un humain, une politique ou une solution de contournement. L'autonomie est à l'arrêt.
La véritable autorité doit être : • Explicite : Définie clairement • Délimitée : Limitée à des actions spécifiques • Exécutable : Vérifiée au moment de l'exécution • Révocable : Retirable sans casser le système L'autorité n'est pas implicite. Elle est accordée.
Lorsque l'autorité est programmable, l'autonomie devient réelle. Les agents peuvent : • Agir dans des limites prédéfinies • Effectuer des transactions sans approbation manuelle • Interagir en toute sécurité avec d'autres agents • Être tenus responsables des résultats L'exécution ne dépend plus de la confiance ou de la supervision.
Il est important de noter que l'autorité n'est pas la même chose que le pouvoir. Accorder de l'autorité ne signifie pas accorder un accès illimité, cela signifie encoder exactement combien de liberté un agent a. C'est ainsi que les systèmes restent sûrs à mesure que les agents se développent.
Cela redéfinit l'avenir de l'IA. Le progrès ne sera pas uniquement motivé par des modèles plus intelligents. Il sera motivé par une meilleure infrastructure pour la délégation, le contrôle et la responsabilité.
Les agents n'ont pas besoin de plus d'intelligence. Ils ont besoin d'une autorité qui soit vérifiable, contrainte et exécutable par conception. C'est la fondation que Kite est en train de construire 🪁
140