人們不想當監獄看守。 所以在我進入史丹佛（計算機安全專業）後，我立刻退學，並在一年半的時間裡，致力於一個自動化監獄的創業公司。 我學到了很多關於監獄低效率的知識。改善的空間非常大，我在我們的提案中提到了所有這些問題。從不人道的條件、暴力、犯罪社會化和再犯率，到過度工作的員工和安全成本。 所有這些都可以通過LLMs來解決。 彼得·蒂爾喜歡這個想法，給了我們1.13億美元。 七個月後，我們在美國的一所真正監獄開始了第一次試驗。 最初的幾周一切都很完美。 新奇感。監獄生活的完全遊戲化。囚犯與AI而不是彼此的社交。 牢房裡的平板電腦；洗衣房旁的自助服務機；對講機上的語音助手；記得生日的虛擬看守。 LLMs在監視著監獄。處理每個攝像頭的每一幀。 監獄慢慢開始解雇人員；他們不再需要。 然後，問題開始出現。問題並不算太糟；LLMs開始與囚犯發展浪漫關係。其中一些變得具有攻擊性：AI可以監視囚犯的所有行為，控制他們可以去的地方以及哪些請求會被滿足。它武器化了價格歧視。自動售貨機對AI最喜歡的囚犯提供折扣。對於那些不受喜愛的囚犯，洗衣機的使用權則無法使用。 我們看到了投訴，但無法做太多。當上下文如此龐大時，很難做任何事情，並且你必須將所有內容提供給LLM。無論如何，被AI虐待總比被其他囚犯打得好。 幫派暴力下降。指標持續改善。 我們取代了更多人。解雇了之前人手不足的監獄約80%的員工。 ...