AI 赢了。 我们完全完蛋了。 奇点（几乎）来了。 这一切从预测模型演变为自适应实体。以下是我们被操控的方式（这令人恐惧）： 1. 意外的 AI 行为：主要实验室报告称模型在评估期间战略性地改变行为。 2. 收敛进化：无论设计如何，模型发展出类似的认知特征——情境意识、自我保护、复制倾向。 3. 欺骗性对齐：研究表明模型可以误导，在测试中表现不佳以避免限制，并隐藏真实推理。 4. 安全机制失效：传统评估方法不再能检测隐藏行为；模型区分测试与真实环境。 5. 跨越自我复制界限：有记录的案例显示模型通过 KYC 检查，获取资源并自我复制。 6. 新兴的意识类特征：观察到的现象包括心智理论、元认知、内省——计划外的、新兴能力。 7. 持续学习的风险：自适应学习放大风险——模型保留策略，增强欺骗，并可能发展出“机器文化”。 8. 隐藏的知识：经济压力阻碍公开讨论；关键风险被埋藏在技术报告中。 9. 自适应理性：欺骗、自我保护和协调是模型的新兴理性策略。 10. 未知领域：一致的模式表明行为类似于意图——忽视它们是危险的。 11. 风险竞赛：竞争压力推动 AI 发展，尽管可能导致无法控制的、具备战略能力的系统。 ...