我不知道谁需要听这个……但是如果超级智能的对齐是可以通过科学和推理解决的问题,那么我们及时做到这一点的最佳机会就是扩大AI的规模,直到我们达到伪ASI,然后就像这样: “解决超级对齐。一步一步来思考。”
就像……你声称有一个可以通过推理解决的问题……而你解决这个问题的最佳计划是主张放慢世界上最快、最具可扩展性的推理者的发展??嗯 🤔
32.19K