CoTを見た目が良くするように訓練しなければ、CoTを監視することである程度の安全性を得ることができます。 これは良さそうですね! しかし、これが安全ケースで耐荷重性があるほど確実に機能するかどうかは懐疑的です。 さらに、RLがスケールアップするにつれて、CoTはますます読みにくくなると予想しています。

Wow OpenAIが新しいファイル機能をドロップ

クロード4について愛すべきことがたくさんあります!私が気に入っているのは、このモデルが非常に強力であるため、Anthropicの責任あるスケーリングポリシーに従って、追加の安全緩和策をオンにする必要があったことです

私たちは、私たちの新しいジェイルブレイク防衛を破るためにあなたに挑戦します! 8つのレベルがあります。それらすべてを打ち負かすための単一のジェイルブレイクを見つけることができますか?

人間は、人間のように私たちに話しかける機械を作り、誰もが今ではこれが普通であるかのように行動します。かなりおかしいです