天啊… Meta 剛剛發佈了一篇論文，顛覆了「AI 將自我改進並拋下我們」的說法，影響深遠 😳 這裡有個瘋狂的部分： 他們主張，通往超智能的最安全和最快的路徑根本不是自我改進的 AI。 而是人類和 AI 共同進行 AI 研究的共同改進系統。 不是「AI 取代研究人員」。 不是「AI 在黑暗中自我重寫」。 而是明確建立以便與人類合作的 AI，進行創意發想、基準測試、實驗、錯誤分析、對齊工作和系統設計。 當你閱讀細節時，為什麼這很重要變得顯而易見： → 自我改進與共同改進是兩個完全不同的世界： 自我改進將人類排除在外。 共同改進創造了一個循環，人類改善 AI，AI 改善人類研究，雙方共同進步。 → 第 3 頁的表 1 分析了「AI 研究合作」實際上意味著什麼： 共同設計基準 共同運行實驗 共同調試失敗 共同開發安全方法 共同撰寫論文 共同建設基礎設施 ...