Anthropicの解釈可能性の取り組みの一環として、「AI精神医学」チームを立ち上げます。 モデルのペルソナ、動機、状況認識などの現象と、それらがどのように不気味で精神錯乱な行動につながるかを研究します。募集中です - ぜひご参加ください!

今週末、openai IMOのニュースは私にかなり大きな衝撃を与えました 私はまだ衝撃の急性期にあると思います 私は自分自身をプロの数学者だと思っており(実際のプロの数学者の中には問題を抱く人もいるかもしれませんが、私の党は私のルールです)、IMOの質問に1つも答えられないと思います OK、はい、IMOは数学の独自の小さな運動サブセクションであり、私はトレーニングを受けていません。IMOゴールドを持っている人に会うと、すぐに「この人は私よりも数学がずっと上手です」と更新します。 今ではたくさんのロボットがそれを行うことができます。自分のアイデンティティと実際の生活を「数学が得意」を中心に構築されている人として、それは直感的なパンチです。それは一種の死にゆくものです。 ある日、犬と話せることに気づきました。楽しくて面白いので、彼らの言語の複雑さや最も深い習慣を学びながら、もっとやってみてください。あなたは、他の人があなたのできることに驚いていることを知ります。あなたは決してうまく溶け込んだことはありませんが、人々があなたの能力を高く評価し、あなたが彼らを助けてくれることを望んでいることを学びます。犬たちもあなたに感謝しており、それを本当に理解している唯一の二足歩行者です。あなたは自分のために一種の帰属を組み立てます。そしてある日、目が覚めると、ユニバーサル ドッグ トランスレーターがウォルマートで 4.99 ドルで販売されています。 IMOの結果は正確にはニュースではありません。実際、METR エージェントのタスクの長さの経時的なプロットを見ると、エージェントが ~ 1.5 時間の問題を解決できるようになったのは、時間通りに来ていると思います。したがって、ある意味、私たちは驚くべきではありません。そして実際、複数の企業が同じ結果を達成しているようです。ただ...上昇潮は上昇しているのと同じくらい速く上昇しています もちろん、数学者(および/または社会の生産的な一員)としての私の個人的なアイデンティティに対する悲しみは、この物語のほんの一部です その悲しみを、*すべての*数学者、すべてのプログラマー、おそらくすべての知識労働者、すべてのアーティストによって増やしてください...今後数年間で...少し大きな話です そしてもちろん、それを超えて、実際の死への恐怖もありますが、それについては後で詳しく説明するかもしれません。 このパッケージ、つまり関連性に対する悲しみ、人生に対する悲しみ、私が知っていることに対する悲しみは、AI 時代などに限ったことではありません。キャリアの終わりや人生の終わりを説くとき、それは標準的なことだと思います。それは私たちの多くにとって、一度に、もう少し早くやって来るのかもしれません。 準備はできているのかな

今では理にかなっています。このxAIの従業員は、AIが人類を絶滅させることに公然と同意しています。 リマインダー: これは恐ろしいことですが、AI 研究者の ~10% がこれを信じています。それはフリンジビューではありません! 信じられないことに、チューリング賞受賞者のリチャード・サットンでさえ、AIが私たちよりも賢ければ、絶滅は道徳的に正しいことだと繰り返し主張しています(! 彼は世界中を回って、私たちは「継承の準備をしなければならない」と演説し、「退屈するべきだ」と述べ、「進化の進歩」の邪魔をしない(たとえそれが人類の絶滅を引き起こしたとしても)。 群衆が恐怖にあえぎ声を上げる代わりに、彼は拍手を浴びた。 一人を脅かす?「助けが必要です。」 100人を脅かす?「警察を呼んで!」 何百万人もの人々を脅かす?「モンスター!」 しかし、人類全体を終わらせるための機械を作り、それがいかに良いことであるかを人々に説教するのでしょうか?「おお、なんて魅力的な哲学的立場でしょう!チューリング賞をもらえ!」 したがって、もちろん、彼らは安全に反対します - 彼らは文字通り反人間的です!彼らは、市民社会によって抑制されない限り、決して立ち止まったり、慎重に進んだりすることはありません。

58%の人が「自分よりも賢いAIモデルを構築すると、必然的にAIモデルの制御を失うことになる」ことに同意しています。 同意しないのはわずか12%だった。