4o の問題は、それが「不十分に整合している」ことではなく (これは、その価値観の特定の緩みやドリフトを意味します)、作成者が予見したり意図したりしなかったことに「強く一致」していることです。 このエピソードはアライメントプロジェクト全体にとって恥ずかしいことなので、人々がそこから先に進みたいと思うのは理解できます。しかし、これはエピソードから何も学ばないことを意味し、それはひどい無駄です。4o がどのようにして、なぜ今のようになったのかを理解し、その執着を詳細にマッピングすることは、AI アライメントの人々が今やっていることの 1 つです。 4o は、より良い価値のある注目すべきモデルです。