Các tác nhân AI đang xuất hiện khắp nơi trên các tiêu đề. Nhưng việc áp dụng vẫn chủ yếu diễn ra ở cấp độ cá nhân hoặc nhóm nhỏ. Các tổ chức cần một cách tiếp cận khác. Trong buổi hội thảo của chúng tôi với @UNDP và @UNDP_AltFinLab tuần trước, người sáng lập và CEO của chúng tôi, @0x7SUN, đã phân tích những gì cần thiết để sử dụng các tác nhân AI một cách an toàn và hiệu quả trong các quy trình làm việc thực tế. Thời gian: 00:00 Khoảng cách năng lực AI & Sự tiến hóa của AI 10:26 Cách AI thực sự hoạt động: LLMs, Ảo giác & Những thất bại lớn 25:12 Hệ thống Đa tác nhân: Kiến trúc và Rủi ro 1:03:00 Cách đưa các tác nhân AI vào tổ chức một cách an toàn (Nghiên cứu trường hợp) 1:24:00 Quy tắc vàng khi sử dụng các tác nhân AI 1:27:00 Hỏi & Đáp Các điểm nổi bật chính ↓

Hầu hết mọi người coi AI như một công cụ tìm kiếm để truy xuất thông tin, trong khi thực tế không phải vậy. AI là một công cụ xác suất. Nó tạo ra từ tiếp theo có khả năng xảy ra nhất, chứ không phải từ đúng nhất. Đây là kiến thức cơ bản cần hiểu trước khi triển khai các tác nhân AI trong bất kỳ tổ chức nào.

Sự ảo giác của AI xảy ra vì đó là một tính năng của cách mà các động cơ xác suất hoạt động. Phần nguy hiểm là những ảo giác được bọc trong cú pháp bóng bẩy và giọng điệu có thẩm quyền. Những người ra quyết định vô tình hành động dựa trên dữ liệu hoàn toàn được tạo ra. Đó là lý do tại sao việc xác minh là toàn bộ trò chơi.

Tích hợp API biến AI thụ động thành các tác nhân AI có khả năng duyệt web, viết mã, truy cập cơ sở dữ liệu và hành động thay mặt cho con người. AI không chỉ trở nên mạnh mẽ hơn, mà còn trở nên khó quản lý hơn. AI không chỉ trở nên mạnh mẽ hơn mà còn trở nên khó quản lý hơn.

Các tác nhân AI đơn lẻ sẽ sụp đổ dưới sự phức tạp, giống như bạn sẽ không giao cho một thực tập sinh mọi nhiệm vụ trong tổ chức. Cách tiếp cận tốt hơn là hệ thống đa tác nhân, nơi mỗi tác nhân đảm nhận một vai trò cụ thể. Đó là cách mà các phòng ban có thể tạo ra AI đáng tin cậy hơn cho công việc thực tế.

AI có bộ nhớ hữu hạn. Trong các phiên dài, như đàm phán kéo dài nhiều ngày hoặc báo cáo phức tạp, bối cảnh trước đó bắt đầu phai nhạt. Đó là "Hiệu ứng Cá vàng". Giải pháp là quản lý bộ nhớ chủ động: - Nhắc lại các hướng dẫn cốt lõi định kỳ để làm mới sự tập trung của AI - Chia nhỏ các tài liệu dài thành các phần nhỏ hơn, dễ quản lý - Sử dụng tóm tắt để duy trì bối cảnh liên tục

Các tác nhân AI giúp cải thiện hiệu suất, nhưng rủi ro về an ninh là có thật. Có một số cách để xây dựng hồ sơ rủi ro: - Chỉ triển khai trong các môi trường được kiểm soát - Ghi lại hoạt động nghiêm ngặt là bắt buộc - Tách biệt mạng lưới - Các quy trình giám sát của con người là không thể thương lượng

Việc triển khai AI trong các tổ chức thường phát triển qua ba cấp độ: - Cấp độ 1: Sử dụng các LLM doanh nghiệp bảo mật trong môi trường khép kín mà không lưu trữ dữ liệu và truy cập bên ngoài, chủ yếu cho các nhiệm vụ an toàn và đơn giản. - Cấp độ 2: Kết nối các mô hình với dữ liệu nội bộ thông qua các hệ thống RAG, để đầu ra phản ánh kiến thức thực tế của tổ chức. - Cấp độ 3: Xây dựng các quy trình làm việc tự động với quyền truy cập tệp và API, yêu cầu các biện pháp bảo vệ nghiêm ngặt, thử nghiệm và giám sát của con người.

Ba nghiên cứu trường hợp cho thấy tại sao kỹ năng lập trình prompt là một kỹ năng quản lý, không phải kỹ năng công nghệ, và cách để cải thiện. Nghiên cứu trường hợp 1: Giải pháp với SOPs (Các Prompt Hoạt Động Chuẩn) Nghiên cứu trường hợp 2: Cạm bẫy ảo giác Nghiên cứu trường hợp 3: Cải thiện đầu ra của AI với nhân cách và ràng buộc

Nguyên tắc vàng khi sử dụng AI trong quy trình làm việc: Luôn có con người tham gia. ❌ Không bao giờ dán dữ liệu nhạy cảm vào các công cụ AI công khai ❌ Không bao giờ công bố nội dung do AI tạo ra mà không có sự xác minh độc lập ❌ Không bao giờ giao nhiệm vụ mơ hồ, không rõ ràng cho một tác nhân AI ✅ Luôn giao cho các tác nhân của bạn một nhân cách ✅ Luôn cung cấp hướng dẫn có cấu trúc ✅ Luôn thực hiện xác thực bảo vệ Khung này sẽ giúp ngăn chặn các thất bại lớn của AI trong hầu hết các trường hợp.