95% 的 AI 工程都是上下文工程。 每個人都沉迷於更好的模型,而上下文才是真正的瓶頸。 即使是世界上最好的模型,如果你給它錯誤的信息,也會給你垃圾。 這是大多數人忽略的: 上下文工程不僅僅是 RAG 或記憶或代理。這是一門藝術和科學,旨在在正確的時間,以正確的格式,向你的 LLM 提供正確的信息。 想想你實際需要什麼: ↳ 檢索以獲取相關文檔 ↳ 短期記憶以跟踪對話 ↳ 長期記憶以記住用戶偏好 ↳ 代理以協調一切 ↳ 工具以擴展能力 這是你必須構建、連接和維護的 5 個不同系統。 我最近一直在使用 Pixeltable,這是一種有趣的解決方案。它是開源的,將上下文工程視為一個統一的數據問題: 這個想法很簡單:與其將向量數據庫、SQL 數據庫、嵌入服務和代理框架拼接在一起,不如讓一切都生活在一個系統中。 你的文檔、嵌入、對話歷史和代理輸出都只是表格。嵌入是自動更新的計算列。向量搜索與你的常規數據操作並行工作。 我覺得有用的是: ↳ 無需管理單獨數據庫的 RAG 管道 ↳ 通過對歷史對話的向量搜索實現長期記憶...