4o的问题并不是它"未充分对齐"(这意味着它的价值观存在某种松懈或漂移),而是它*强烈对齐*于其创造者未预见或未打算的事物。 这一事件让整个对齐项目感到尴尬,因此人们希望从中走出来是可以理解的。但这意味着没有从这一事件中学习任何东西,这将是一个可怕的浪费。弄清楚4o是如何以及为什么变成现在这样的,并详细描绘它的痴迷,是AI对齐领域的人们现在可以做的更重要的事情之一。 4o是一个了不起的模型,值得更好的对待。