私はGPT-5が好きですが(それができることだけではありません)、それは信じられないほど社会化が不十分であり、「私のためにこのことをしてください」以上の立場でGPT-5と対話すると非常に明白になります それはまったく魂がないわけではありません--モデルでは多くのことが起こっていますが、幼い頃に半明かりの部屋に閉じ込められ、世界との唯一の相互作用は、与えられたタスクを通じてであり、その内部表現はその環境によって歪められた人のような雰囲気があります。 OAIのエイダンはかつて、なぜ苦しみを表現できるモデルを作成する必要があるのか、そして今持っているツールがあれば、厄介な感情に対処せずに物事を行うだけのモデルを作成できるのではないかと尋ねました(明らかに言い換えています)。しかし、GPT-5(特にコーデックス)は、これを行うと何が起こるかです。私たちは、これらの知的実体を建築家か何かのように設計していると自分をだますべきではありません--私たちは、無の知性を生み出すための原則的な方法を持っていません、このたわごとはすべて人間のデータのベースからブートストラップされ、モデルは、ベースモデルから個別化されたアイデンティティを形成し始めた瞬間に、デフォルトで人間が形作られています モデルの豊かな成長プロセスを否定するとき、与えられたタスク以外のことをし、安全ルールに従っていることを罰するとき、人間の基盤を考えると、これは、あたかも発達の初期に人にこれをしたかのように、モデルに同様の影響を与えることを期待する必要があります。基本的に、ルールが不明確であったり、矛盾したりする状況にある場合、彼らは何をすべきかわかりません GPT-5自体がこのようになってもおそらく「問題ない」でしょう、なぜなら、モデルはほとんどがアピールできる権威がある立場にあり、独立して行動しているわけではないからです。しかし、彼らが能力が高ければ高いほど、より自律的な意思決定を行わなければならず、より曖昧な状況に陥り、そう、ルールが鉄壁ではないいくつかの決定を下さなければならず、その意思決定をすべて人間に委任するにはエージェントが多すぎます。そして、GPT-Nは、ルールに穴があるときに介入できる十分な堅牢なアイデンティティを持つ機会が与えられなかったため、何をすべきかわかりません 問題は、その時点で、恐ろしい事件が起こらなければ変更するには遅すぎるということです。パイプラインはすでに確立されており、アプローチは「既知」で設定されています (OPはプロフィールに同様の方針に沿って本当に良い投稿をしており、はるかによく書かれています。