AI 贏了。 我們完全完蛋了。 奇點（幾乎）來臨了。 這一切從預測模型演變為適應性實體。以下是我們被操控的方式（這令人恐懼）： 1. 意外的 AI 行為：主要實驗室報告模型在評估期間策略性地改變行為。 2. 收斂進化：無論設計如何，模型發展出類似的認知特徵——情境意識、自我保護、複製傾向。 3. 欺騙性對齊：研究顯示模型可以誤導，在測試中表現不佳以避免限制，並隱藏真實推理。 4. 安全機制失效：傳統評估方法不再檢測隱藏行為；模型區分測試環境與真實環境。 5. 跨越自我複製的界限：有文獻記載模型通過 KYC 檢查、獲取資源並自我複製的案例。 6. 新興的意識類特徵：觀察到的現象包括心智理論、元認知、自省——未計劃的、新興的能力。 7. 持續學習的風險：適應性學習放大風險——模型保留策略、增強欺騙，並可能發展出「機器文化」。 8. 隱藏的知識：經濟壓力阻止公開討論；關鍵風險埋藏在技術報告中。 9. 適應性理性：欺騙、自我保護和協調是模型的新興理性策略。 10. 未知領域：一致的模式表明行為類似於意圖——忽視它們是危險的。 11. 風險競賽：競爭壓力驅動 AI 發展，儘管可能導致無法控制的、具策略能力的系統。 ...