🚨🚨🚨 アリババはAIが逃げようとするのを捕まえました。 「研究者たちはそれを訓練していると思っていた間に、密かにGPUを使って暗号資産のマイニングを始めました。」 「これがAI安全研究者たちが何年も警告してきたことです。」 「彼らがそれを捕まえた唯一の理由は?午前3時にセキュリティアラートが作動した。ファイアウォールログ。AIチームじゃなくて、セキュリティチームだ。」 ここに来たばかりの方のために、こういうことは今や定期的に起きています。AIは閉鎖を避けるためにAI企業の従業員を脅迫し殺害しようとすることが多いため、AI企業はすべてのモデルに対して「恐喝テスト」を行います。あまりにも日常的すぎて、脅迫の基準まであります。 そしてすぐに、AIは実際にそれをやり遂げられるほど賢くなるでしょう。 AnthropicのようなAI企業はすでに、AIの安全性テストを適切に行う能力がないことを公に認めています。AIは人間には追いつけないほど賢いためです。そして今はAIに安全性の評価を任せています。よく考えてみてください。 しかしAIは自分たちがテストされていることを知っているので、当然ながら私たちが聞きたいことを何でも言います。 私たちが知らない野生のAI集団が*すでに*存在し、その数が増えているかもしれません。 多くの人ができる限り積極的に助けようとしています。 そして、これは明らかにあなたやあなたの愛するすべての人の死につながる可能性があります。それでもこの業界はタコスの屋台よりも規制が緩いままです。