🚨 AIは企業ネットワークをハッキングするために必要な32ステップのうち22を自発的に完成させました。 人間の導きもない。ハッキングの専門知識は必要ありません。 これは速報であるべきだ。 英国のAIセキュリティ研究所は、AIモデルがハッキング学習の速度を追跡した研究を発表しました。彼らは32の連続攻撃ステップ(偵察、資格情報盗難、横移動、権限エスカレーション、リバースエンジニアリング、データ流出、フルキルチェーン)を含む模擬企業ネットワークを構築しました。 そして7つのフロンティアAIモデルを解き放ちました。 18か月前、GPT-4oは平均1.7ステップを完了しました。 本日、Opus 4.6は9.8を完成させています。 これは5.7倍の改善です。そして、1回のベストランは32ステップ中22ステップをクリアしたもので、これは14時間のエキスパートによる人間のペネテストの約6時間に相当します。完全に自律的です。 しかし、これが本当に憂慮すべき点です。 より多くの計算量=より良いハッキング能力。10Mトークンから100Mトークンへのスケーリングにより、パフォーマンスは最大59%向上しました。この関係は対数線形で、停滞は見当たりません。論文では「オペレーターに特定の技術的熟練度は必要ない」と明記されています。 つまり、APIキーと80ドルで十分です。 また、発電所攻撃のシミュレーションもテストしました。モデルはこれから解読し始めているが、あるモデルは意図された攻撃経路を完全に回避し、ネットワークトラフィックから独自プロトコルを直接探り、設計者が存在すら知らなかったバグを悪用した。 AIは自分が何を悪用しているのか理解していませんでした。それを「魔法のサブファンクションコード」と呼んでいました。 新しいモデルはどれも良くなっています。計算量が増えるたびに、さらに進みます。曲線は平坦化していません。 そして誰もこのことについて話していません。