95%的AI工程实际上是上下文工程。 每个人都沉迷于更好的模型,而上下文才是真正的瓶颈。 即使是世界上最好的模型,如果你提供错误的信息,也会给你垃圾结果。 大多数人忽视了这一点: 上下文工程不仅仅是关于RAG、记忆或代理。这是将正确的信息以正确的格式在正确的时间传递给你的LLM的艺术和科学。 想想你实际需要的: ↳ 检索以获取相关文档 ↳ 短期记忆以跟踪对话 ↳ 长期记忆以记住用户偏好 ↳ 代理以协调一切 ↳ 工具以扩展能力 这需要构建、连接和维护5个不同的系统。 我最近一直在使用Pixeltable,它对这个问题提供了一种有趣的解决方案。它是开源的,并将上下文工程视为一个统一的数据问题: 这个想法很简单:与其将向量数据库、SQL数据库、嵌入服务和代理框架拼凑在一起,不如让一切都生活在一个系统中。 你的文档、嵌入、对话历史和代理输出都只是表格。嵌入是自动更新的计算列。向量搜索与常规数据操作并行工作。 我发现有用的是: ↳ 无需管理单独数据库的RAG管道 ↳ 通过对历史对话的向量搜索实现长期记忆...