caching prompt là tối ưu hóa mang lại hiệu quả nhất cho các quy trình làm việc và đại lý dựa trên LLM của bạn. Trong bài viết này, tôi sẽ đề cập đến các mẹo để truy cập vào bộ nhớ cache prompt một cách nhất quán hơn và cách nó hoạt động bên trong (có lẽ là tài nguyên đầu tiên như vậy)