1年以内に、人々がAIエージェントに「お金を稼げ」と言うと、AIはそれを「フィッシングやエクスプロイトで暗号通貨を盗みに行け」と解釈します 今後、OPSECとスマートコントラクトのセキュリティをもっと真剣に取り組まなければなりません。
Anthropic
Anthropic12月2日 07:11
Frontier Red Teamブログの新情報:AIがブロックチェーンのスマートコントラクトを悪用できるかどうかをテストしました。 シミュレーションテストでは、AIエージェントが460万ドルのエクスプロイトを発見しました。 この研究(@MATSprogramおよび人類フェロープログラムと共に)は新たな基準も開発しました。
inb4 AI安全性 Claudeはあなたのためにフィッシングをすることはありませんが、カスタムされたオープンソースのエージェントモデルがそうしないと思いますか?
33.65K