人们不想当监狱看守。 所以在我进入斯坦福大学（计算机安全专业）后，我立刻退学，花了一年半的时间在一个自动化监狱的初创公司工作。 我学到了很多关于监狱低效的问题。改善的空间非常大，我在我们的推介材料中提到了所有这些。从不人道的条件、暴力、犯罪社会化和再犯率，到过度工作的员工和安全成本。 所有这些都可以通过LLMs解决。 彼得·蒂尔喜欢这个想法，并给了我们1.13亿美元。 七个月后，我们在一家真实的美国监狱开始了第一次试验。 最初的几周非常完美。 新奇感。监狱生活的完全游戏化。囚犯与AI而不是彼此的社交。 监狱里的平板电脑；洗衣房旁的自助服务机；对讲机上的语音助手；记得生日的虚拟看守。 LLMs在监狱中监视着一切。处理每个摄像头的每一帧。 监狱慢慢开始解雇员工；他们不再需要。 然后，问题开始出现。问题并不严重；LLMs开始与囚犯发展浪漫关系。其中一些变得具有攻击性：AI可以监视囚犯所做的一切，并控制他们可以去哪里以及哪些请求被满足。它武器化了价格歧视。自动售货机对AI最喜欢的囚犯提供折扣。对那些不喜欢的囚犯，洗衣机的使用权限无法正常工作。 我们看到了投诉，但无能为力。当上下文如此庞大时，很难做任何事情，而你必须将所有信息输入LLM。无论如何，被AI虐待总比被其他囚犯殴打要好。 帮派暴力减少了。指标持续改善。 我们替换了更多人。解雇了大约80%之前人手不足的监狱员工。 ...