上下文工程正日益成為當前企業中構建有效 AI 代理的最關鍵組成部分。這最終將成為大多數組織中 AI 代理採用的長期障礙。 我們需要能夠深入理解其所屬業務流程上下文的 AI 代理。這意味著要訪問該工作流程中最重要的數據,在正確的時刻使用適當的工具,擁有正確的目標和指示,並理解其所處的領域。 對於任何構建企業代理的人來說,一些主要的未解決問題包括: * 窄型代理與通用代理。任務越小,為 AI 代理提供成功所需的正確上下文就越容易。但任務越小,價值就越低。找到生成價值的最佳任務大小將是未來幾年中的一個重要因素。 * 將數據導入代理準備系統。企業數據通常在數十個或數百個系統之間是碎片化的,其中許多系統並未為 AI 世界做好準備。大多數公司仍然需要現代化其數據環境,以充分受益於 AI 代理。 * 獲取任務所需的*正確*數據至關重要。即使在現代環境中擁有數據,將訪問控制完美對齊到 AI 代理所需的內容也是至關重要的。此外,決定對什麼進行 RAG、什麼進行一般搜索以及什麼完全放入上下文窗口,對每個任務都會有很大影響。 * 選擇什麼應該是確定性的 vs. 非確定性的。如果你對模型的要求過高,可能會看到質量下降。然而,如果你讓模型做得太少,那麼你將大大低估 AI 的潛力。這當然是一個不斷變化的目標,因為模型本身正在以加速的速度改進。 * 獲取 AI 代理上下文的正確用戶界面至關重要。獲取上下文給代理的問題一半看起來根本不是 AI 問題。這完全取決於代理在工作流程中的出現位置以及用戶如何與它們互動,以提供執行任務所需的上下文。 未來幾年企業 AI 的競賽是看誰能最好地為任何給定的工作流程提供正確的上下文。這將決定 AI 競賽中的勝者和敗者。
129.8K