Các tác nhân AI đã rất mạnh mẽ. Chúng có thể lý luận, lập kế hoạch, tạo mã, đàm phán và tối ưu hóa. Tuy nhiên, hầu hết các tác nhân vẫn gặp khó khăn trong việc hoạt động độc lập trong thế giới thực. Nút thắt không phải là trí thông minh, mà là quyền hạn.

Trí tuệ trả lời câu hỏi: Cần phải làm gì? Quyền lực trả lời một câu hỏi khác: Đại lý này được phép làm gì? Không có quyền lực, ngay cả đại lý thông minh nhất cũng buộc phải xin phép ở mỗi bước.

Hôm nay, hầu hết các đại lý hoạt động với những hình thức quyền lực mong manh: • Ví do con người sở hữu • Khóa API chia sẻ • Quyền truy cập quá rộng • Phê duyệt thủ công Những mô hình này chưa bao giờ được thiết kế cho các tác nhân tự động.

Kết quả là một nghịch lý. Các tác nhân có khả năng đưa ra quyết định nhưng không thể thực hiện chúng một cách độc lập. Mọi hành động có ý nghĩa đều bị rào cản bởi một con người, một chính sách, hoặc một giải pháp tạm thời. Sự tự chủ bị đình trệ.

Quyền lực thực sự phải: • Rõ ràng: Được định nghĩa rõ ràng • Có phạm vi: Giới hạn trong các hành động cụ thể • Có thể thi hành: Được kiểm tra tại thời điểm thực thi • Có thể thu hồi: Có thể xóa bỏ mà không làm hỏng hệ thống Quyền lực không phải là điều ngầm hiểu. Nó được cấp.

Khi quyền lực có thể lập trình, sự tự chủ trở nên thực sự. Các tác nhân có thể: • Hành động trong các giới hạn đã định sẵn • Giao dịch mà không cần phê duyệt thủ công • Tương tác với các tác nhân khác một cách an toàn • Chịu trách nhiệm về kết quả Việc thực thi không còn phụ thuộc vào sự tin tưởng hay giám sát.

Quan trọng là, quyền lực không giống như sức mạnh. Việc cấp quyền không có nghĩa là cấp quyền truy cập không giới hạn, mà có nghĩa là mã hóa chính xác mức độ tự do mà một tác nhân có. Đây là cách các hệ thống giữ an toàn khi các tác nhân mở rộng.

Điều này định hình lại tương lai của AI. Sự tiến bộ sẽ không chỉ được thúc đẩy bởi những mô hình thông minh hơn. Nó sẽ được thúc đẩy bởi cơ sở hạ tầng tốt hơn cho việc ủy quyền, kiểm soát và trách nhiệm.

Các đại lý không cần thêm trí tuệ. Họ cần quyền lực có thể xác minh, bị hạn chế và có thể thi hành theo thiết kế. Đó là nền tảng mà Kite đang xây dựng 🪁