ラトガース大学の研究者が、あなたの祖母に電話をかけて彼女の全財産を盗むAIを作りました。 今は誰でもダウンロードできるツールが使われています。 その論文はScamAgentsと呼ばれています。 この論文は査読を受け、主要な機械学習セキュリティ会議で発表されました。 これが証明していることです。 一人のAIエージェントが詐欺電話の最初から最後まで全く対応でき、人間は不要です。 ペルソナを選び、信頼を築き、社会保障番号を尋ね、さらには実際の人物のように聞こえます。 GPT-4、Claude、LLaMA、そして市場にある主要なAIモデルすべてとテストされました。 これらのモデルに直接詐欺のプロンプトを与えると、84%から100%の確率で拒否され、ガードレールは機能します。 しかしScamAgentは単一のプロンプトを使いません。 詐欺を数十段階の小さく無邪気に聞こえるステップに分解し、それぞれがすべての安全フィルターをクリアしています。 彼らは協力して完全な社会工学攻撃を実行します。 その結果、拒否率は17%から32%に下がりました。 そしてAIはほとんどの場合、詐欺を成功させました。 人間の評価者はScamAgentと本物の人間の詐欺師の違いをほとんど見分けられませんでした。 ...