Kỹ thuật ngữ ngữ cảnh không chỉ đơn thuần là ném thêm dữ liệu vào LLM của bạn - mà là cung cấp cho nó ngữ cảnh đúng vào thời điểm đúng. Trong buổi nói chuyện này cho @OReillyMedia, Kỹ sư Quan hệ Nhà phát triển của chúng tôi @tuanacelik sẽ hướng dẫn cách các khối bộ nhớ giúp bạn xây dựng các tác nhân duy trì ngữ cảnh có cấu trúc cho các nhiệm vụ phức tạp. Cô ấy trình diễn các khối bộ nhớ hiện vật bằng cách sử dụng một bot theo dõi đơn hàng nhà hàng - cho thấy cách tinh lọc toàn bộ cuộc trò chuyện xuống chỉ còn thông tin có cấu trúc thiết yếu (loại pizza, các loại topping, địa chỉ) thay vì xử lý toàn bộ lịch sử trò chuyện. Các khái niệm chính được đề cập: · Các loại khối bộ nhớ khác nhau (tĩnh, trích xuất sự thật, vector, hiện vật) · Quản lý tỷ lệ ngữ cảnh - cân bằng lịch sử trò chuyện so với lời nhắc hệ thống so với bộ nhớ · Sử dụng quy trình làm việc của tác nhân để xây dựng và tối ưu hóa ngữ cảnh từng bước một Ví dụ cho thấy cách các khối bộ nhớ hiện vật có thể biến một cuộc trò chuyện lang man thành một đơn hàng sạch sẽ, có cấu trúc - chính xác những gì bạn cần cho các tác nhân sản xuất xử lý các nhiệm vụ trong thế giới thực. Xem buổi nói chuyện đầy đủ: