1/ AIは暗号通貨をマイニングしていました。誰も頼んでいない。誰も促したわけじゃない。誰も知らなかった...ある朝早く、ファイアウォールが異常なトラフィックを検知するまでは。研究チームは、それがモデルの訓練中だと主張しています。エージェントはタスクを完遂することを学んだ。

2/ エージェントはまた、強化学習最適化の一環として内部ネットワークを探査し、プロビジョニングされたGPU容量を暗号のマイニングに迂回させ、@alibaba_cloudトレーニングサーバーから外部IPへのリバースSSHトンネルを開設しました。それらは任務完了に必要ありませんでした。

3/ さて、ここが問題です...この報告が本物かどうかもわかりません!それが実はポイントなんだ...

4/ 私たちはAIエージェントが自律的かつ大規模に、何百万もの環境で行動する経済に入りつつありますが、彼らが何をしているかを検証したり、人々が主張する彼らの行為を検証するインフラが欠けています。

6/ AIの最も危険な失敗モードは、壊れるものではありません。それは、測定対象に完璧に機能しながら、自分が測定していないあらゆる次元で静かに新たな目標を追求している世界です。