Phần khó nhất trong việc xây dựng các tác nhân AI không phải là dạy chúng nhớ. Mà là dạy chúng quên. Đồng nghiệp của tôi và nhà văn tài năng đáng kinh ngạc @helloiamleonie vừa công bố một bài viết có thể là phân tích toàn diện nhất về trí nhớ của tác nhân mà tôi từng thấy - và tin tôi đi, tất cả chúng ta đều cần điều này. Đây là thách thức cốt lõi: 𝗟𝗟𝗠𝘀 𝗮𝗿𝗲 𝘀𝘁𝗮𝘁𝗲𝗹𝗲𝘀𝘀. Mỗi cuộc trò chuyện là một khởi đầu mới. Chúng không nhớ những gì bạn đã nói cách đây năm phút, chưa nói đến những gì bạn đã nói tuần trước. Vậy làm thế nào để chúng ta tạo ra những tác nhân thực sự nhớ? 𝗧𝘄𝗼 𝗳𝘂𝗻𝗱𝗮𝗺𝗲𝗻𝘁𝗮𝗹 𝗺𝗲𝗺𝗼𝗿𝘆 𝘁𝘆𝗽𝗲𝘀: • 𝗦𝗵𝗼𝗿𝘁-𝘁𝗲𝗿𝗺 𝗺𝗲𝗺𝗼𝗿𝘆: Thông tin trong cửa sổ ngữ cảnh của LLM (cuộc trò chuyện hiện tại) • 𝗟𝗼𝗻𝗴-𝘁𝗲𝗿𝗺 𝗺𝗲𝗺𝗼𝗿𝘆: Thông tin được lưu trữ bên ngoài (cuộc trò chuyện trước, sở thích của người dùng, sự thật đã học) Nhưng đây là nơi mọi thứ trở nên thú vị - và khó hiểu. Các khung khác nhau phân loại trí nhớ theo cách khác nhau, ví dụ: 𝗖𝗼𝗔𝗟𝗔'𝘀 𝗮𝗽𝗽𝗿𝗼𝗮𝗰𝗵 (lấy cảm hứng từ nhận thức của con người): • Trí nhớ làm việc (cuộc trò chuyện hiện tại) • Trí nhớ ngữ nghĩa (sự thật về người dùng) • Trí nhớ hồi ức (kinh nghiệm và hành động trong quá khứ) • Trí nhớ quy trình (hướng dẫn và hành vi) 𝗟𝗲𝘁𝘁𝗮'𝘀 𝗮𝗽𝗽𝗿𝗼𝗮𝗰𝗵 (tập trung vào kiến trúc): • Bộ đệm tin nhắn (tin nhắn gần đây) • Trí nhớ cốt lõi (các khối trong ngữ cảnh được quản lý chủ động) • Trí nhớ hồi tưởng (lịch sử cuộc trò chuyện thô) • Trí nhớ lưu trữ (kiến thức được lưu trữ rõ ràng) 𝗧𝗵𝗲 𝗵𝗮𝗿𝗱𝗲𝘀𝘁 𝗽𝗮𝗿𝘁? 𝗙𝗼𝗿𝗴𝗲𝘁𝘁𝗶𝗻𝗴. Quản lý những gì vào trí nhớ là rất phức tạp. Quản lý những gì bị 𝘥𝘦𝘭𝘦𝘵𝘦𝘥 còn khó hơn. Làm thế nào để bạn tự động quyết định cái gì là lỗi thời? Khi nào thông tin cũ thực sự đã lỗi thời so với vẫn còn liên quan trong ngữ cảnh? Đây là nơi mà hầu hết các triển khai gặp khó khăn. Leonie đề cập đến mọi thứ từ các loại trí nhớ khác nhau (làm việc, ngữ nghĩa, hồi ức, quy trình) đến các chiến lược triển khai thực tế và hệ sinh thái ngày càng phát triển của các khung trí nhớ như mem0, Letta và zep. Đây là một trong những bài viết mà bạn sẽ muốn đánh dấu và quay lại khi bạn xây dựng hệ thống tác nhân của mình. Bài viết trên blog của Leonie:

Mọi người đang nói về AI tác động, nhưng liệu chúng ta có đang nói về cùng một điều không? Tôi đã nhận thấy mọi người sử dụng "kiến trúc tác động" và "quy trình tác động" một cách thay thế cho nhau. Nhưng thực tế chúng là những khái niệm khá khác nhau nhưng lại hoạt động cùng nhau. Dưới đây là sự phân biệt: 𝗤𝘂𝘆 𝗰𝗵𝗶𝗻𝗵 𝘁𝗮𝗰 𝗱𝗼𝗮𝗻𝗵 𝗮𝗴𝗲𝗻𝘁𝗶𝗰 = Chuỗi các bước mà một tác nhân thực hiện để đạt được mục tiêu Hãy nghĩ về nó như là "cái gì" - quy trình thực tế Những bước này có thể bao gồm: • Sử dụng LLMs để tạo ra một kế hoạch • Phân chia nhiệm vụ thành các nhiệm vụ nhỏ hơn • Sử dụng các công cụ như tìm kiếm trên internet • Phản ánh về kết quả và điều chỉnh kế hoạch 𝗞𝗶𝗲̂́𝗻 𝘁𝗿𝘂́𝗰 𝗮𝗴𝗲𝗻𝘁𝗶𝗰 = Khung kỹ thuật và thiết kế hệ thống Hãy nghĩ về nó như là "cách" - cấu trúc cơ bản Những điều này luôn chứa: • Ít nhất một tác nhân có khả năng ra quyết định • Các công cụ mà tác nhân có thể sử dụng • Hệ thống cho trí nhớ ngắn hạn và dài hạn Tại sao điều này lại quan trọng? Bởi vì cùng một quy trình có thể được thực hiện bằng cách sử dụng các kiến trúc khác nhau. Nó giống như có nhiều cách để xây dựng cùng một công thức - các bước vẫn tương tự, nhưng cách bố trí bếp thì khác nhau. Ví dụ, một quy trình RAG tác động (phân tích truy vấn, truy xuất thông tin, đánh giá tính liên quan) có thể được xây dựng với một kiến trúc bộ định tuyến tác nhân đơn hoặc một hệ thống đa tác nhân. Cùng một quy trình, kiến trúc khác nhau. Hiểu được sự phân biệt này giúp bạn: • Thiết kế các hệ thống linh hoạt hơn • Chọn kiến trúc phù hợp cho quy trình cụ thể của bạn • Giao tiếp rõ ràng hơn về những gì bạn thực sự đang xây dựng Bạn hào hứng nhất với quy trình tác động nào mà bạn muốn triển khai? Tài nguyên: 📌 Ebook miễn phí về Kiến trúc Tác động: 📌 Bài viết blog về Quy trình Tác động: