Hầu hết các tác nhân AI ngày nay vẫn phụ thuộc vào cơ sở hạ tầng được thiết kế cho con người. Tài khoản ngân hàng. Phê duyệt thủ công. Đăng nhập theo phiên. Giờ làm việc. Những hệ thống này không được xây dựng cho phần mềm tự động, và điều đó thể hiện rõ.

Các hệ thống con người giả định: • Ý định là của con người • Quyết định là hiếm khi xảy ra • Lỗi có thể được giải quyết bằng tay • Niềm tin là xã hội hoặc pháp lý Các tác nhân AI phá vỡ tất cả những giả định này. Chúng hoạt động liên tục, với tốc độ máy móc, mà không có ngữ cảnh hoặc quyết định.

Khi các tác nhân bị buộc phải vào các hệ thống của con người, tính tự chủ bị suy giảm. Các tác nhân cuối cùng: • Chờ đợi sự phê duyệt • Hoạt động với quyền hạn quá rộng • Dựa vào các giải pháp API dễ bị hỏng • Trả lại quyền kiểm soát cho con người trong các trường hợp đặc biệt Kết quả là tự động hóa trông có vẻ tự chủ nhưng thực tế không phải vậy.

Bảo mật cũng bị ảnh hưởng. Các hệ thống con người được xây dựng dựa trên: • Thông tin xác thực lâu dài • Quyền truy cập toàn bộ hoặc không có gì • Niềm tin ngầm vào người sở hữu tài khoản Đối với các đại lý, điều này tạo ra rủi ro không cần thiết: Một khóa bị rò rỉ có thể có nghĩa là quyền hạn không giới hạn.

Thanh toán là nơi sự không khớp trở nên rõ ràng. Các hệ thống thanh toán của con người mong đợi: • Xác nhận tương tác • Giao dịch có thể đảo ngược • Đối chiếu ngoài chuỗi Các tác nhân cần: • Kết quả xác định • Thanh toán theo chương trình • Tính cuối cùng có thể xác minh bằng máy Các đường ray của con người tạo ra sự không chắc chắn mà các tác nhân không thể lý luận.

Sự tuân thủ và trách nhiệm cũng không được dịch một cách rõ ràng. Các hệ thống con người dựa vào: • Chính sách • Điều khoản dịch vụ • Thực thi sau khi sự việc xảy ra Các tác nhân tự trị yêu cầu: • Các ràng buộc có thể thực thi • Nhật ký hành động có thể xác minh • Dấu vết kiểm toán mật mã Các quy tắc phải có thể thực thi, không chỉ được viết ra.

Đây là lý do tại sao các hệ thống gốc đại lý là cần thiết. Hạ tầng gốc đại lý giả định: • Phần mềm nắm quyền • Quyền truy cập được xác định và có thể thu hồi • Hành động được chứng minh theo mặc định • Thanh toán là một phần của thực thi, không phải UX Tính tự chủ chỉ hoạt động khi hệ thống được thiết kế cho điều đó.

Tương lai của AI sẽ không được xây dựng bằng cách điều chỉnh các hệ thống của con người. Nó sẽ được xây dựng bằng cách thay thế chúng bằng cơ sở hạ tầng được thiết kế cho các tác nhân từ những nguyên tắc cơ bản. Đó là hướng mà Kite đang hướng tới 🪁