“术语‘ChatGPT wrapper’已经过时,真的非常错误。”
Andrej Karpathy
Andrej Karpathy2025年6月25日
+1 对于 "上下文工程" 而非 "提示工程"。 人们将提示与日常使用中给 LLM 的简短任务描述联系在一起。而在每个工业级 LLM 应用中,上下文工程是将正确的信息填充到上下文窗口以进行下一步的微妙艺术和科学。科学在于,正确地做到这一点涉及任务描述和解释、少量示例、RAG、相关(可能是多模态)数据、工具、状态和历史、压缩……太少或形式错误,LLM 就没有正确的上下文以实现最佳性能。太多或太无关,LLM 的成本可能会上升,性能可能会下降。做好这一点是非常复杂的。而艺术在于对 LLM 心理学和人类精神的引导直觉。 除了上下文工程本身,LLM 应用还必须: - 恰当地将问题分解为控制流 - 恰当地打包上下文窗口 - 调度合适类型和能力的 LLM 调用 - 处理生成-验证 UIUX 流程 - 还有很多 - 保护措施、安全性、评估、并行处理、预取…… 因此,上下文工程只是一个新兴的复杂软件层中的一小部分,该层将单个 LLM 调用(以及更多)协调成完整的 LLM 应用。"ChatGPT 包装器" 这个术语已经过时,真的非常错误。
292.56K