熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
95% 的 AI 工程都是上下文工程。
每個人都沉迷於更好的模型,而上下文才是真正的瓶頸。
即使是世界上最好的模型,如果你給它錯誤的信息,也會給你垃圾。
這是大多數人忽略的:
上下文工程不僅僅是 RAG 或記憶或代理。這是一門藝術和科學,旨在在正確的時間,以正確的格式,向你的 LLM 提供正確的信息。
想想你實際需要什麼:
↳ 檢索以獲取相關文檔
↳ 短期記憶以跟踪對話
↳ 長期記憶以記住用戶偏好
↳ 代理以協調一切
↳ 工具以擴展能力
這是你必須構建、連接和維護的 5 個不同系統。
我最近一直在使用 Pixeltable,這是一種有趣的解決方案。它是開源的,將上下文工程視為一個統一的數據問題:
這個想法很簡單:與其將向量數據庫、SQL 數據庫、嵌入服務和代理框架拼接在一起,不如讓一切都生活在一個系統中。
你的文檔、嵌入、對話歷史和代理輸出都只是表格。嵌入是自動更新的計算列。向量搜索與你的常規數據操作並行工作。
我覺得有用的是:
↳ 無需管理單獨數據庫的 RAG 管道
↳ 通過對歷史對話的向量搜索實現長期記憶...

熱門
排行
收藏

