一站式 Web3 探索中心 | 去中心化應用商店 & Web3 線下活動 | OKX

熱門話題

William MacAskill

EA 相鄰。

未來的軌跡可能很快就會確定下來。在一篇新論文中，我探討了在我們的生命中，長期未來的走向可能如何被決定的機制。這些機制包括建立由AGI強制執行的機構、全球權力的集中、太空的廣泛定居、第一批不朽的存在、新生物的廣泛設計，以及在重要且持久的方式上自我修改的能力。我對這些事件發生的信心不高，但在我看來，它們的可能性足夠高，使得引導它們朝更好方向發展的工作非常有價值。讓我們逐一探討每個機制。首先，基於AGI的機構。一旦我們擁有AGI，決策者可以： - 設立一個機構，並使AGI理解該憲法，並將執行該憲法作為其目標。 - 賦予該AGI執行憲法的能力。 - 在多個位置存儲AGI的神經權重副本，以降低任何一個副本被摧毀的風險。 - 重新加載原始的憲法AGI，以檢查任何被指派確保遵守憲法的AGI是否保持對其原始目標的遵循，因為這些AGI隨著時間的推移學習並更新其神經權重。這就像是，如果不是讓最高法院解釋美國憲法，我們可以召喚麥迪遜和漢密爾頓的幽靈，直接詢問他們——而他們的觀點是決定性的。在這些機制到位後，這個AGI強制執行的憲法可以無限期運作。第二，不朽。在歷史上，死亡作為任何特定價值觀或權力結構持續存在的自然制約。隨著時間的推移，即使是最根深蒂固的價值觀最終也會隨著新一代的取代而改變。後AGI技術可能根本改變這一動態。數位存在本質上對生物老化免疫；當與完美複製和硬體遷移相結合時，我們將能夠創造出其確切價值觀和決策過程可以無限期不變的心智。生物不朽也可能持有類似的動態。由AGI驅動的技術爆炸可能通過針對老化的基本機制的技術，顯著延長或有效消除人類壽命的生物限制。第三，設計生物。歷史上，變化部分是因為連續的世代不繼承其祖先的相同價值觀。但在AGI之後，這一動態可能會改變。可能，我們創造的絕大多數存在將是AI，它們將是設計的產物——我們將能夠選擇它們擁有的偏好。而且，隨著技術能力的提高，我們也可能能夠選擇我們生物後代的偏好。即使人們選擇不永生，他們的價值觀也可以通過完美的傳遞從一代傳到下一代。第四，強大的自我修改。在未來，人們可能能夠修改自己的信念和偏好，以便精確選擇自己擁有的信念和偏好。因此，不僅今天的人們能夠通過永生來控制社會的未來價值觀；他們還能夠控制未來自我的價值觀。一個宗教狂熱者可能選擇對他們所偏好的宗教有不可動搖的確信；一個意識形態極端分子可能選擇對他們的政黨有不可撤回和堅定的偏好。除了創造新的機制來實現持久的路徑依賴，後AGI世界也可能減少擾動的原因。在歷史上，社會變革往往是由擾動現有權力結構的技術創新驅動的。然而，隨著文明接近技術成熟——假設所有主要技術都已被發明的那一點——這一擾動來源將消失。先進技術也將幫助防止其他類型的擾動。它將顯著改善預測能力：先進的AI系統可以處理更多的信息，更精確地建模複雜系統，並在更長的時間範圍內預測結果。因此，人們因為犯錯而放棄影響力的可能性將大大降低。最後，後AGI世界可能以無限的防禦優勢為特徵，使權力的集中保持永久穩定。特別是，無限的防禦優勢可能是由於廣泛的太空定居。如果星系強烈防禦主導，那麼星系的初始分配原則上可以無限期保持。可能在初始分配後，會有一些星系的貿易或贈送；但即使如此，最終的星系分配仍將受到初始分配的極大影響。這些問題可能看起來是遙遠的擔憂——但智能和工業的爆炸使它們變得迫在眉睫。我認為在接下來的10年內，我們看到智能爆炸的機率超過1/3。如果先進的AI導致爆炸性的技術進步和工業擴張，那麼許多新的持久機制將迅速出現。