Tôi đã xây dựng các AI Agents trong sản xuất hơn một năm. Đây là một vấn đề phổ biến mà các nhà phát triển gặp phải khi họ mở rộng các agent ra sản xuất: Họ thường phải xoay sở giữa các dịch vụ riêng biệt cho vector, dữ liệu có cấu trúc và phiên làm việc. Ba nhóm kết nối khác nhau. Ba chiến lược sao lưu. Ba bảng điều khiển giám sát. Vòng lặp của agent thì đơn giản với lý luận, công cụ và bộ nhớ, nhưng cơ sở hạ tầng trở thành nút thắt cổ chai. Nếu bạn muốn thấy một cách sạch hơn để xử lý điều này, tôi đã xây dựng một agent sử dụng @MongoDB làm backend duy nhất cho mọi thứ. Tôi đã làm việc với đội ngũ của họ để chia sẻ điều này với bạn. Cài đặt rất đơn giản: ↳ Bắt đầu với một tài liệu PDF. Agent sẽ trả lời các câu hỏi về nó trong khi nhớ lại các cuộc trò chuyện trước đó. ↳ Đầu tiên, chia nhỏ PDF và nhúng nó bằng mô hình của Voyage AI. Những nhúng đó sẽ được đưa thẳng vào MongoDB với chỉ mục vector. ↳ Sau đó, bạn định nghĩa hai công cụ: một cho tìm kiếm vector, một cho các phép tính cơ bản nếu cần. Agent quyết định sử dụng cái nào dựa trên truy vấn. ↳ Bộ nhớ được lưu trữ trong cùng một cơ sở dữ liệu dưới các ID phiên. Mỗi tương tác mà agent có được ghi lại, để nó có thể tham chiếu các lượt trước đó. ↳ Người lập kế hoạch kết nối mọi thứ lại với nhau. Nó xem xét lịch sử cuộc trò chuyện, quyết định xem có cần một công cụ hay không, thực hiện công cụ đó và tạo ra phản hồi cuối cùng. Đây là nơi backend thống nhất quan trọng: Khi agent tìm kiếm ngữ cảnh, nó đang truy vấn cùng một cơ sở dữ liệu lưu trữ các phiên người dùng và dữ liệu có cấu trúc. Khi nó ghi vào bộ nhớ, cùng một phiên bản MongoDB đang xử lý các nhúng vector. ...