热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲

God of Prompt
天哪……Meta刚发布了一篇论文,彻底颠覆了“AI将自我提升并抛弃我们”的叙述,影响巨大😳
这里有个疯狂的部分:
他们认为,通往超级智能的最安全、最快的路径根本不是自我提升的AI。
而是人类与AI共同进行AI研究的共同提升。
不是“AI取代研究人员。”
不是“AI在黑暗中自我重写。”
而是明确构建的AI,与人类在创意、基准、实验、错误分析、对齐工作和系统设计上进行合作。
当你阅读细节时,会明显明白这为什么重要:
→ 自我提升与共同提升是两个完全不同的世界:
自我提升将人类排除在外。
共同提升创造了一个循环,人类提升AI,AI提升人类研究,双方共同进步。
→ 第3页的表1详细说明了“AI研究合作”实际上意味着什么:
共同设计基准
共同进行实验
共同调试失败
共同开发安全方法
共同撰写论文
共同构建基础设施
这实际上是完整的研究流程,但共享。
→ 每种当前的自我提升技术(合成数据、自我奖励、自我游戏、NAS等)都有盲点:奖励黑客、漂移、脆弱性、缺乏人类先验、零透明度。
共同提升通过让人类参与推理循环来规避失败模式。
核心思想很有冲击力:
自我提升的AI在无人监督的情况下迅速前进。
共同提升的AI则将人类向上拖拽。
更大的主张是:
共同超级智能不是“AI变得超级智能。”
而是人类与AI共同变得超级智能——因为双方都在学习、积累隐性知识,并在同一研究周期内迭代。
如果这个范式成立,未来就不是“AGI与人类的对抗。”
而是一个合并的研究有机体。
一种集体智能。
这篇论文感觉像是迄今为止最清晰的蓝图,描绘了一个不会以对齐刀刃结束的AI未来。
它认为我们不需要超越超级智能。
我们需要与之共同进化。
老实说?这比其他选择更有道理。

45.82K
麻省理工学院的研究人员刚刚证明,提示工程是一种社交技能,而不是技术技能。
这一发现打破了我们对与AI合作的所有认知。
他们分析了667个人与AI解决问题的过程。使用贝叶斯统计法来隔离每个人的两种不同能力:独立解决问题的能力和与AI解决问题的能力。
以下是打破整个框架的关键。
这两种能力几乎没有相关性。
独自成为天才问题解决者几乎无法告诉你与AI合作的效果如何。它们是独立的、可测量的、各自运作的技能。
这意味着每一个提示工程课程、每一个超级提示模板、每一个“10个提高结果的技巧”帖子都根本误解了当你获得良好结果时实际发生的事情。
这些模板有效。但并不是因为大家认为的原因。
它们有效是因为它们意外地迫使你练习完全不同的东西。
实际上预测与AI成功的技能并不是关于关键词、结构或思维链格式。
而是心智理论。你建模另一个代理所知道的、不知道的、相信的、需要的能力。在混淆发生之前预测他们的困惑。弥补你甚至没有意识到存在的信息差距。
而且这里有一个完全改变游戏规则的部分:他们证明这不是你要么拥有要么没有的静态特质。
它是动态的。被激活的。你可以开关的东西。
在每一时刻,你投入到视角转换中的认知努力的变化直接影响了AI在单个提示上的响应质量。
这意味着当你真正停下来思考“这个AI需要知道什么我却视而不见”的具体问题时,你会在那个问题上得到可测量的更好答案。
这个技能是你可以调节的。练习。增强。就像你不知道自己拥有的肌肉一样。
你越是把AI视为一个拥有不完整信息的合作者,而不是一个你试图用正确的魔法词汇来破解的搜索引擎,它就会变得更好。

253.41K
热门
排行
收藏

