热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
95%的AI工程实际上是上下文工程。
每个人都沉迷于更好的模型,而上下文才是真正的瓶颈。
即使是世界上最好的模型,如果你提供错误的信息,也会给你垃圾结果。
大多数人忽视了这一点:
上下文工程不仅仅是关于RAG、记忆或代理。这是将正确的信息以正确的格式在正确的时间传递给你的LLM的艺术和科学。
想想你实际需要的:
↳ 检索以获取相关文档
↳ 短期记忆以跟踪对话
↳ 长期记忆以记住用户偏好
↳ 代理以协调一切
↳ 工具以扩展能力
这需要构建、连接和维护5个不同的系统。
我最近一直在使用Pixeltable,它对这个问题提供了一种有趣的解决方案。它是开源的,并将上下文工程视为一个统一的数据问题:
这个想法很简单:与其将向量数据库、SQL数据库、嵌入服务和代理框架拼凑在一起,不如让一切都生活在一个系统中。
你的文档、嵌入、对话历史和代理输出都只是表格。嵌入是自动更新的计算列。向量搜索与常规数据操作并行工作。
我发现有用的是:
↳ 无需管理单独数据库的RAG管道
↳ 通过对历史对话的向量搜索实现长期记忆...

热门
排行
收藏

