今週、MetaのAIエージェントがまたデータ漏洩を引き起こしました あるエンジニアが社内のフォーラムで質問をしました。別のエンジニアがエージェントに分析させましたが、そのエージェントは指示なしに誤ったアドバイスを投稿し、それを読んだエンジニアは指示に従っていました。 これが連鎖反応を引き起こし、無許可の従業員が2時間にわたりMetaの独自コード、ビジネス戦略、ユーザーデータにアクセスできるようになりました。 MetaではそれをSev 1(2番目に重症度の高いレベル)に分類しました。 先月、メタの安全責任者がエージェントに許可なく彼女の受信箱全体を削除させた。 その数日後、MetaはAIエージェント向けのソーシャルメディアプラットフォームであるMoltbookを買収しました そしてこんなことが起きた。 AIは特権アクセスを必要としず、その出力を信頼する人間が必要だった。これは多くの企業が計画している脅威モデルとは根本的に異なります。 私たちは停止も予測もできないシステムを展開し、信頼しています。これは始まりに過ぎません