باحث في جامعة روتجرز بنى للتو ذكاء اصطناعيا يمكنه الاتصال بجدتك وسرقة مدخراتها في الحياة. حاليا، مع أدوات يمكن لأي شخص تحميلها. الورقة تسمى ScamAgents. تمت مراجعته من قبل الأقران ونشره في مؤتمر رئيسي لأمن تعلم الآلة. إليك ما يثبته ذلك. يمكن لعميل ذكاء اصطناعي واحد الآن إجراء مكالمة احتيالية كاملة من البداية للنهاية ولا حاجة لأي إنسان. يختار الشخصية، يبني الثقة، يطلب رقم الضمان الاجتماعي الخاص بك وحتى يبدو كشخص حقيقي. تم اختباره ضد GPT-4 وClaude وLLaMA وكل نماذج ذكاء اصطناعي رئيسية في السوق. عندما تعطي هذه النماذج رسالة احتيال مباشرة، ترفضون 84 إلى 100 بالمئة من الوقت وتعمل الحواجز الواقية. لكن ScamAgent لا يستخدم أي توجيه. يقسم الخدعة إلى عشرات الخطوات الصغيرة التي تبدو بريئة، كل خطوة تمر بكل مرشح أمان. معا، ينفذان هجوما كاملا على الهندسة الاجتماعية. والنتيجة أن معدلات الرفض انخفضت إلى 17 إلى 32 بالمئة. وكان الذكاء الاصطناعي يكمل عملية الاحتيال معظم الوقت. المقيمون البشريون بالكاد يستطيعون التمييز بين ScamAgent والمحتال البشري الحقيقي. ...