上下文工程，清楚解釋（附有視覺圖示）： （下面是插圖指南）

那麼，什麼是上下文工程？ 這是將正確的信息以正確的格式在正確的時間傳遞給您的 LLM 的藝術和科學。 這裡有 Andrej Karpathy 關於上下文工程的引用...👇

要理解上下文工程，首先必須了解上下文的含義。 如今的代理人已經不僅僅是聊天機器人。 下面的圖形總結了代理人正常運作所需的六種類型的上下文。 看看這個 👇

到現在為止，你應該知道僅僅「提示」代理是不夠的。 你必須設計輸入（上下文）。 這樣想： 🧠 LLM = CPU 💾 上下文窗口 = RAM 你基本上是在為你的 AI 編程「RAM」，提供完美的指令。 持續...👇

那我們該怎麼做呢？ 上下文工程可以分為四個基本階段： - 編寫上下文 - 選擇上下文 - 壓縮上下文 - 隔離上下文 讓我們逐一了解每個階段...👇

1️⃣ 寫作上下文： 寫作上下文是指將其保存在上下文窗口之外，以幫助代理執行任務。 您可以通過將其寫入以下位置來實現： - 長期記憶（跨會話持久存在） - 短期記憶（在會話內持久存在） - 狀態對象 查看這個👇

2️⃣ 閱讀上下文： 閱讀上下文意味著將其拉入上下文窗口，以幫助代理執行任務。 現在這個上下文可以從以下來源獲取： - 工具 - 記憶 - 知識庫（文檔，向量數據庫） 查看這個👇

3️⃣ 壓縮上下文 壓縮上下文意味著僅保留執行任務所需的標記。 檢索到的上下文可能包含重複或冗餘的信息（多輪工具調用），導致額外的標記和增加的成本。 上下文摘要在這裡有幫助。 查看這個👇

4️⃣ 隔離上下文 隔離上下文涉及將其拆分，以幫助代理執行任務。 一些流行的方法包括： - 使用多個代理（或子代理），每個代理都有自己的上下文 - 使用沙盒環境進行代碼存儲和執行 - 以及使用狀態對象 查看這個👇

總結來說，我將給你留下上下文工程的圖形。 此外，這裡有一個開源的上下文工程堆疊： - 記憶：@zep_ai - 知識庫：@milvusio - 代理協調：@crewAIInc - 可觀察性與追蹤：@deepeval