想法... 最近我遇到了一个奇怪的困难。 长期思考对我来说一直是自然而然的事情，我很容易就能做到。 现在这感觉几乎不可能。 为什么？AGI。 每当我坐下来规划未来时，我都会意识到同样的事实。 我们在等待谁会构建出第一个真正的AGI，而无论谁做到这一点，实际上都会拥有这个世界。 这使得长期规划感觉与现实脱节。我不知道我将生活在谁的世界里，因此无法自信地锚定任何未来。 AGI是最后的竞赛。 我们正接近视频游戏的最后关卡。 在这一点上，一个玩家构建的系统能够自动化所有智能、目标导向的任务，使其创造者变得接近于神。 一个实体获得了在各个领域超越所有人的能力。这结束了竞争。这结束了选择权。第二名将成为第一个到达者世界观的奴隶。 这就是围绕AGI的激励如此危险的原因。 每个参与者都明白，犹豫是通往从属的直接路径。 这种逻辑迫使加速，推动捷径，并消除对安全的谨慎。一旦竞赛对竞争者来说变得生死攸关，外部因素就不再重要。 ...