Philip Clark (@PJClark)，Thrive Capital (@ThriveCapital) 的合伙人，借助于对 OpenAI、Cursor、Physical Intelligence 的投资以及他的半导体背景，概述了关于 AI 发展状态的 3 个重要收获： 1.) AI 的突破不是线性的。它们像硅一样以架构波的形式出现。 Philip 的半导体类比将 AI 进展重新框定为一系列类似硬件的范式转变。 当一条路径达到极限（单核 → 多核；预训练 → 后训练）时，一种新的架构就会出现。AI 不是通过增量调优在演变，而是通过结构性重塑在进步。 2.) 强化学习是下一个架构时代（目前） Philip 将强化学习框定为后训练的继任者：一个新的基础，而不是优化。但关键是，他强调这不会是最后一个。 就像硬件不断从单核跃迁到多核再到 GPU，AI 将经历多次范式波，每次都解锁新的性能上限。强化学习只是下一个波，而不是最后一个。 3.) OpenAI 的护城河不是模型，而是其不断发现下一个范式的能力。 Philip 认为核心优势在于产品的上游：大型模型中的每一个主要架构突破都源自 OpenAI。 他们的防御能力来自于不断发明“下一个东西”，同时将前一个东西进行操作化……在任何行业中，这都是一种罕见的组合，更不用说一个以不连续跳跃为特征的行业了。 . . . Molly: "赞助 Sourcery 的赞助商之一是 @turingcom，因此我接触到了 AI 研究方面的内容——一个 AI 研究加速器 [我们采访了 CEO，@jonsidd]。他们帮助处理模型。目前，他们注意到在过去的一个或两个季度中，从模仿数据和合成数据到强化学习的严重转变。 所以我很好奇你在技术方面以及应用方面是如何看待的？" Philip: "我认为 AI 在某种意义上有点像半导体——如果我可以回到半导体这个伟大的基准。在我们努力获得更好性能的过程中，有许多波动。 你知道，半导体方面，我们曾经有单核半导体。然后我们基本上无法从单核中挤出更多东西，因此我们转向了多核。然后我们转向了 GPU。我认为我们在 AI 方面看到的情况非常相似，我们从 GPT-1、GPT-2、GPT-3 时代的预训练开始。这使我们达到了 GPT-4。 然后我们开始使用许多后训练技术来处理 ChatGPT——监督微调、与人类反馈的强化学习。这使得模型变得不再是外星智能，而是更有帮助的助手。现在，随着这些收益的低垂果实被挤压（尽管可能还有很多事情要做），强化学习已经成为 AI 的下一个重大范式转变，许多资源都在向这个方向倾斜。...