Ilya 和我预测着相同的未来。 @ilyasut 预测，随着 AI 变得极其强大，人类将以空前的方式发生变化。我也一直在争辩同样的观点。我们尚未对激进的变化持开放态度，因为我们无法感受到 AI 的压力。一旦我们感受到，这将为人类进化打开新的方向。我一直在为这种适应和开放构建原型。 他认为，随着风险的上升，竞争对手将开始在安全问题上合作。我也持相同观点。随着赌注变得生死攸关，游戏的重心将从追求主导地位转向最小化死亡风险（生存）。我们将围绕这一逻辑重建我们的价值观。 Ilya 建议我们的对齐目标必须是“有感知的存在”，而不是人类控制。我也持相同观点。控制是一种脆弱的幻觉，@karpathy 最近也提到管理新兴系统的困难。唯一稳健的对齐目标就是存在本身。新的原型不是征服者，而是存在的战士与看护者。 最后，Ilya 建议公司需要一份“简短的想法清单”来引导他们度过混乱。这是一种道德清晰的准则。 这就是“不要死”的哲学。