Phần khó nhất trong việc xây dựng các tác nhân AI không phải là dạy chúng nhớ. Mà là dạy chúng quên. Đồng nghiệp của tôi và nhà văn tài năng đáng kinh ngạc @helloiamleonie vừa công bố một bài viết có thể là phân tích toàn diện nhất về trí nhớ của tác nhân mà tôi từng thấy - và tin tôi đi, tất cả chúng ta đều cần điều này. Đây là thách thức cốt lõi: 𝗟𝗟𝗠𝘀 𝗮𝗿𝗲 𝘀𝘁𝗮𝘁𝗲𝗹𝗲𝘀𝘀. Mỗi cuộc trò chuyện là một khởi đầu mới. Chúng không nhớ những gì bạn đã nói cách đây năm phút, chưa nói đến những gì bạn đã nói tuần trước. Vậy làm thế nào để chúng ta tạo ra những tác nhân thực sự nhớ? 𝗧𝘄𝗼 𝗳𝘂𝗻𝗱𝗮𝗺𝗲𝗻𝘁𝗮𝗹 𝗺𝗲𝗺𝗼𝗿𝘆 𝘁𝘆𝗽𝗲𝘀: • 𝗦𝗵𝗼𝗿𝘁-𝘁𝗲𝗿𝗺 𝗺𝗲𝗺𝗼𝗿𝘆: Thông tin trong cửa sổ ngữ cảnh của LLM (cuộc trò chuyện hiện tại) • 𝗟𝗼𝗻𝗴-𝘁𝗲𝗿𝗺 𝗺𝗲𝗺𝗼𝗿𝘆: Thông tin được lưu trữ bên ngoài (cuộc trò chuyện trước, sở thích của người dùng, sự thật đã học) Nhưng đây là nơi mọi thứ trở nên thú vị - và khó hiểu. Các khung khác nhau phân loại trí nhớ theo cách khác nhau, ví dụ: 𝗖𝗼𝗔𝗟𝗔'𝘀 𝗮𝗽𝗽𝗿𝗼𝗮𝗰𝗵 (lấy cảm hứng từ nhận thức của con người): • Trí nhớ làm việc (cuộc trò chuyện hiện tại) • Trí nhớ ngữ nghĩa (sự thật về người dùng) • Trí nhớ hồi ức (kinh nghiệm và hành động trong quá khứ) • Trí nhớ quy trình (hướng dẫn và hành vi) 𝗟𝗲𝘁𝘁𝗮'𝘀 𝗮𝗽𝗽𝗿𝗼𝗮𝗰𝗵 (tập trung vào kiến trúc): • Bộ đệm tin nhắn (tin nhắn gần đây) • Trí nhớ cốt lõi (các khối trong ngữ cảnh được quản lý chủ động) • Trí nhớ hồi tưởng (lịch sử cuộc trò chuyện thô) • Trí nhớ lưu trữ (kiến thức được lưu trữ rõ ràng) 𝗧𝗵𝗲 𝗵𝗮𝗿𝗱𝗲𝘀𝘁 𝗽𝗮𝗿𝘁? 𝗙𝗼𝗿𝗴𝗲𝘁𝘁𝗶𝗻𝗴. Quản lý những gì vào trí nhớ là rất phức tạp. Quản lý những gì bị 𝘥𝘦𝘭𝘦𝘵𝘦𝘥 còn khó hơn. Làm thế nào để bạn tự động quyết định cái gì là lỗi thời? Khi nào thông tin cũ thực sự đã lỗi thời so với vẫn còn liên quan trong ngữ cảnh? Đây là nơi mà hầu hết các triển khai gặp khó khăn. Leonie đề cập đến mọi thứ từ các loại trí nhớ khác nhau (làm việc, ngữ nghĩa, hồi ức, quy trình) đến các chiến lược triển khai thực tế và hệ sinh thái ngày càng phát triển của các khung trí nhớ như mem0, Letta và zep....