AI-агенты уже обладают высокой способностью. Они могут рассуждать, планировать, генерировать код, вести переговоры и оптимизировать. Тем не менее, большинство агентов все еще испытывают трудности с автономной работой в реальном мире. Узкое место не в интеллекте, а в авторитете.
Интеллект отвечает на вопрос: Что нужно сделать? Авторитет отвечает на другой вопрос: Что этому агенту разрешено делать? Без авторитета даже самый умный агент вынужден спрашивать разрешение на каждом шагу.
Сегодня большинство агентов работают с хрупкими формами власти: • Кошельки, принадлежащие людям • Общие API-ключи • Чрезмерные разрешения • Ручные одобрения Эти модели никогда не были разработаны для автономных участников.
Результат является парадоксом. Агенты способны принимать решения, но не могут выполнять их самостоятельно. Каждое значимое действие становится зависимым от человека, политики или обходного пути. Автономия застаивается.
Истинная власть должна быть: • Явной: Четко определенной • Ограниченной: Ограниченной конкретными действиями • Исполнимой: Проверяемой во время выполнения • Отзывной: Удаляемой без нарушения системы Власть не подразумевается. Она предоставляется.
Когда власть можно программировать, автономия становится реальной. Агенты могут: • Действовать в рамках предопределенных ограничений • Осуществлять транзакции без ручного одобрения • Безопасно взаимодействовать с другими агентами • Нести ответственность за результаты Исполнение больше не зависит от доверия или надзора.
Важно понимать, что полномочия не равны власти. Предоставление полномочий не означает предоставление неограниченного доступа, это означает кодирование того, сколько свободы имеет агент. Таким образом, системы остаются в безопасности по мере масштабирования агентов.
Это переосмысляет будущее ИИ. Прогресс не будет определяться только более умными моделями. Он будет определяться лучшей инфраструктурой для делегирования, контроля и подотчетности.
Агентам не нужно больше интеллекта. Им нужна власть, которая является проверяемой, ограниченной и обеспечиваемой по замыслу. Это основа, на которой строит Kite 🪁
156