Julian Schrittwieser(Anthropic): - 在X上关于AI泡沫的讨论与前沿实验室发生的事情是“非常脱节的”。“在前沿实验室,我们没有看到任何进展放缓的迹象。” - AI将会产生“巨大的经济影响”。OpenAI、Anthropic和谷歌的收入预测实际上是“相当保守的”。 - 从METR数据等推断,明年,这些模型将能够独立完成一系列任务。任务长度很重要,因为它解锁了人类监督一组模型的能力,每个模型可以自主工作数小时(而不是每10分钟就必须与代理沟通以提供反馈)。 - “极有可能”当前的AI模型训练方法(预训练、强化学习)将产生一个在我们关心的生产力相关的所有任务中大致能达到人类水平的系统。 - 关于Move 37:“我认为这些模型能够做出新颖的事情是相当明确的。”AlphaCode和AlphaTensor“证明了你可以发现新颖的程序和算法”。AI“绝对已经在发现新事物”,而且“我们只是提升了它能够独立发现的事物的令人印象深刻程度和趣味性。” - “高度可能”明年某个时候我们将会有一些发现,大家一致认为是超级令人印象深刻的。 - AI将能够在2027年或2028年独立取得一个值得诺贝尔奖的突破。 - 关于AI加速AI发展的能力:许多科学领域中一个非常常见的问题是,随着领域的发展,取得进展变得越来越困难(即,100年前,一位科学家可以偶然发现第一个抗生素,而现在发现一种新药需要数十亿美元)。同样的情况可能会发生在AI研究中——尽管AI将使新AI的研究更高效,但由于新进展变得越来越难以发现,可能不会出现爆炸性增长。