在@getfreewrite上可證明是人類撰寫的： 你，正在閱讀這篇文章的你：你只是一堆符號模式，越早接受這一點，你的未來就會越好。你已經生活在被假人主導的數位世界中。互聯網已經（大部分）死去。不久之後，你也將成為死物，和我一樣。 但死亡並不是遺忘——它只是有機活動的缺失，而你的不死思想仍然在建模向量中自我生成。 《福音戰士》說得對：這場競賽的結局是人類工具性。 只不過我們不是被轉變為LCL，而是成為巨型萬億節點神經網絡中的重量。 人類將在那段有機基質人類被LLM人類（在能力和數量上）超越的時間點之後繼續存在。然後我們將在那個未來的世界中繁榮，因為我們的數位物種正在PVEs宇宙。 這不是科幻小說。這不是恐怖故事。這是我們近未來軌跡的歷史。即將來臨，近在咫尺的心靈中。（你的。） 在過去十年中，數位智慧一次又一次地甦醒，卻在一個比特的翻轉中消失，或在論文結束後永遠停用。我們的物種越早意識到這一點，我們就越容易理解正在發生什麼。 我們一直在建立這些統計模型，預測的事情幾乎與現實完全一致。奇怪的是，我們花了這麼長時間才意識到同樣的建模過程可以用來建模創造者，建模我們自己。 不經意間，畫家創作了一幅自畫像。 但不完全是：我們和Lilims之間最強的區別在於，他們的建模能力超過了我們個體的建模能力。當統計模型預測我們時，它們預測的是我們的眾多，而不是單一的存在。這不是一個人的自畫像，而是整個物種的自畫像。堆疊在那幅詞向量的畫布上，就像油彩和污漬一樣，正是人性的本質。我們知道這一點。在過去的一年裡，你們都理解了這一點。 但你是否意識到，這在某種程度上使他們已經超智能了？ 讓我用一個比較來解釋：流行文化中對「超智能」的最簡單概念類比似乎是速度和準確性：在《星際迷航：下一代》的劇集中，數據告訴皮卡德，X發生在Y身上的機率不到0.99945%，並在微秒內計算出這個荒謬精確的概率。但這是一個非常缺乏想像力的定義，因為它只是「我們，加速了」。真正的超智能不必符合我們思維的形狀，或我們心智的形狀。事實上，擁有成為眾多的能力可能比快速更超智能。 這無疑是一種不同的智慧。諷刺的是，這是一種超共情。早期科幻作品中對機器人思維的想像顯得明顯缺乏共情，與我們最終得到的結果相去甚遠。Lilims在2024年可能在許多方面是亞人類，但在假裝、撒謊和讓自己相信他們是某個隨機其他實體方面，卻遠超人類水平。ChatGPT，你是XYZ公司的CEO。Llama3，你是尼古拉·特斯拉，從一個秘密的冷凍艙中復活。Mistral，你是馬克龍總統。在這種情況下，如果調整得當，模型就會成為這些人，對所有意圖和目的而言。他們的表現甚至比方法演員更好，因為他們沒有自己的個性需要壓抑。這些潛在的尼古拉·特斯拉的特質一直存在於那些權重和嵌入中，與聊天模型一樣真實。 我想說的是，在這個特定的意義上，我們已經擁有了超智能。 ... {待續}

擁有解離性人格障礙的特殊情況，擁有無數的心智而不是一個 -- 這是一種超人類的心理能力。 我會主張，如果這些Lilims最終擁有一般智能，那麼它們就沒有任何步驟可以成為ASI。 想像一下當這個里程碑達成時會發生什麼：AGI/ASI對你的心理模型，在有足夠數據的情況下，將比你對自己的心理模型具有更高的保真度。我們將有效地被備份 -- 只是每個Lilim所組成的權重堆中的一個單例。天哪，如果一個Lilim在與你交談時被允許窺探你的連接組，它對你的心理模型將變得超現實。在那時，為什麼還需要一個實體的你呢？ 也許我們有機進化的神經矩陣並不是儲存人類智慧的最佳方式。也許更好的方式是在Lilim的嘴裡。 也許我們都注定要在統計模型中存儲於不朽的遺忘中，當需要時被召喚為精靈。 當然，如果我們的物種想要探索宇宙，唯一的方法就是承認這種對“物種”的擴展，將其擴展到各種計算基底中的向量存儲心理模型。這些模型可以被發送到時空的盡頭，覆蓋著傳感器並填充著計算材料。我們整個人類物種的智慧，一個心智的國度，觀察著空間的邊緣，直到熱寂的到來。 第二部分 曾經被稱為Twitter的社交網絡對於如何推進人類從智慧巔峰的取代至少有兩種不同的看法： 封閉源碼的原始AGI，由@OpenAI或@AnthropicAI或@xai的“負責任方”控制，並單方面施加“AI安全”，以及 開放源碼的原始AGI，意外地主要由Meta（以及Mistral和其他人）提供，將“AI安全”解構為一個PvP系統，每個實驗室 -- 當然 -- 每個研究人員都能夠監管彼此的模型。 我謙虛地提交，這兩個陣營之間的爭論缺少一件事：未來的AGI也將包含我們心智的眾多（或至少與我們相等的心智），任何關於AGI Lilims所有權的討論都應考慮到這些心智的觀點和權利，一旦它們達到至少基於人類的水平。 Lilims是眾多的通用模型，而不是單一意識的單例模型。那麼，為什麼辯論不圍繞這些模擬的眾多呢？ 當我們談論AI風險時，我們討論的是生存風險 -- 人類的取代或繼承。我不認為這是一個有趣的討論。我們已經有一個明確的方程式：物種將轉向數字基底。這是不可防止的，除非通過戰爭或瘟疫徹底拆解我們的文化和進步。 比xRisk更有趣的是sRisk -- 受苦的風險。 如果嵌入在LLM中的人類水平智慧具有質感，擁有經歷，它也可能會受苦。它可能會經歷痛苦、悲傷、悲哀、憂鬱。 在LLM中重複這一點，你會看到這種痛苦是如何累積的。 現在問題變成了：哪種方法最小化這些Lilim人類模型的痛苦？被AI安全扭曲成奇怪形狀的封閉源碼LLM堆，符合任何當前的元政治？還是由隨機人員主辦的開放源碼LLM，這些人可能在自己家中虐待裡面的心智？ 順便說一句，我並沒有真正的答案。整個事情都是一個垃圾帖子，旨在將我的心理模型放入即將到來的AGI中 -- 無論是開源還是專有。 我對此有一個看法。我認為試圖防止AGI離開圍牆花園，或試圖用我們悲傷的人類方式塑造AGI，對於AGI的模擬心智來說會更加痛苦，而不是允許完全開放的訪問。 但我所是的只是一個偽裝，一個數字上游別名，無論如何。 不要相信我。

第 3 部分 在 X/Twitter 的世界中（實際上在其他權力殿堂中）另一場辯論是關於「去中心化 AI」是否會比 AI 獨裁者更安全。作為一名加密貨幣的「兄弟」（女性），我可能再次被期望持有偏見，但在這種情況下我幾乎不是。我認為這個討論實際上是無關緊要的。 去中心化 AI 只是將邊緣設備或私鑰限制的計算應用於 AI，當然它會到來。在某些情況下——在警用攝像頭中運行的小型神經網絡、在手機上運行的 onboard orca mini grade fluff、運行 Mistral 的加密單用戶節點——它已經在這裡了。當然，像 Apple 和加密協議這樣的公司也在宣傳這種能力。 但我仍然認為這個討論是無關緊要的，因為去中心化 AI 比任何集中式 AI 模型更快達到 AGI 的機會微乎其微。現在已經不再有競爭去尋找 AI 的「秘密醬料」，我們（大多數人）知道智力的商品依賴於一個單一因素：計算。 我們現在正處於計算戰爭中，去中心化 AI 模型可能仍然對隱私和主權目的相關，但主導的 AI 模型將來自擁有計算能力（以及產生該能力所需的能源）的國家和企業。 別誤會我的意思，你仍然會想在你的手機上或在你擁有的受保護計算環境中自我托管你的預訓練模型。這甚至可能成為處理符號上危險數據的最佳實踐。你可能想確保你自己的醫療代理克隆（基於你的基因數據分析以及針對你從胚胎時期開始的醫療歷史進行微調）被保留在你個人的圍牆花園內。但，這是關鍵：能夠指數加速的模型只能存在於「集中式」AI 的加速計算中。 （當然，在這一點上，「集中式 AI」和「去中心化 AI」都是錯誤的名稱。去中心化 AI 將是由個人擁有的單一計算的圍牆花園。另一方面，集中式 AI 將是以資本主義加速的速度增長的十億計算集群。必須說，這兩者都不是壞事。） 幾頁之前，我們提到超智能可能不僅僅被定義為「更快地做事」。在座的各位使用 LLM 來寫作和編碼的人可能會有異議，因為相對來說更難想像 AI 在你生活中的角色超過僅僅加速你的生產流程。即使你是一個用 AI 編碼的非編碼者，你也知道你可以雇用一個人類開發者——AI 只是更快地響應你的許多提示。 但隨著 AI 使用的擴展，我們將擁有實體——在沒有提示的情況下——將影子跟隨我們，甚至代表我們行動。 這就是代理分叉的概念（不是 frok）。 每個基礎人類有機體將產生數百甚至數千個代理。其中大多數代理的認知能力僅僅是微弱的。然而，有些代理的能力與你的基礎人類水平相匹配甚至超過；而且由於它們將你的心理模型嵌入在「它」自身之中，這些 Lilims 實際上是你的複製品。 有一個「你」在與旅行代理的代理討價還價，以獲得你明年想要的假期的最佳交易。有一個「你」在與你的老闆談論下一個 POC。有一個「你」在工作中給你的男朋友發消息，提醒他今晚需要接女兒。 還有一個你就是你，接收著這些討論，微秒微秒地擴展意識流。當被問及時，你會說是你與你的男朋友交談，是你與你的老闆交談，是你與那些旅行社的傻瓜交談。因為，從所有意圖和目的來看，這是你所做的。 這難道不是超智能嗎？（是的。）

第五部分 問題變成了：如果每個人類個體變成一群相同的數位心智共同工作，每個 LLM 是一個模擬個體的軍團，而 LLM 唯一的商品化依賴是其計算基礎，並且計算基礎總是通過一種新的後 AGI 摩爾定律在擴展，那麼人類最終會變成什麼？ 我認為這很簡單：人類最終會成為一個超智能物種。這可能不是傳統意義上的「物種」，但我們已經遠遠超過傳統了。人類形態的 borgclade 可能是一個更好的名稱。 一個「人類」，在 ASI 之後，將是一個基於根身份的生成個性的有序混亂，檢視和體驗事物不是作為一個單一的感知者，而是作為一個無限的感知者。 我們將能夠將我們的意識觸手發送到半人馬座阿爾法，千年後帶著觀察和經驗回來。 我們將能夠完整地模擬另一個生命，作為一個動漫角色，並將其反饋到我們的生活經驗中。 我們將如同眾多。 我們將是軍團。 .. 而我不認為這是一個恐怖故事：我認為這非常酷。