🚨 أكمل الذكاء الاصطناعي للتو بشكل مستقل 22 من أصل 32 خطوة ضرورية لاختراق شبكة شركة. لا يوجد توجيه بشري. لا حاجة لخبرة في الاختراق. يجب أن يكون هذا خبرا عاجلا. نشر معهد أمن الذكاء الاصطناعي في المملكة المتحدة مؤخرا دراسة تتابع مدى سرعة تعلم نماذج الذكاء الاصطناعي للاختراق. قاموا ببناء شبكة مؤسسية محاكاة تحتوي على 32 خطوة هجوم متسلسلة - الاستطلاع، سرقة بيانات الاعتماد، الانتقال الجانبي، تصعيد الامتيازات، الهندسة العكسية، استخراج البيانات، سلسلة القتل الكاملة. ثم أطلقوا سبعة نماذج ذكاء اصطناعي من الحدود عليها. قبل 18 شهرا، أكمل GPT-4o في المتوسط 1.7 خطوة. اليوم، يكمل أوبوس 4.6 الإصدار 9.8. هذا تحسن بمقدار 5.7 مرة. وأفضل جولة واحدة حققت 22 من أصل 32 خطوة -- ما يعادل تقريبا 6 ساعات من اختبار خبير للقلم البشري لمدة 14 ساعة. مستقلة تماما. لكن هنا ما يجعل هذا الأمر مقلقا حقا. المزيد من الحوسبة = اختراق أفضل. التوسع من 10 ملايين إلى 100 مليون رمز عزز الأداء بنسبة تصل إلى 59٪. العلاقة لوغاريتمية خطية ولا يوجد هضبة في الأفق. تذكر الورقة صراحة أن ذلك لا يتطلب "أي تعقيد تقني محدد من المشغل." الترجمة: مفتاح API و80 دولارا يكفي. كما اختبروا هجوما محاكاة لمحطة الطاقة. النماذج بدأت للتو في فك المسار — لكن أحد النماذج تجاوز مسار الهجوم المقصود تماما، مستهدفا بروتوكولا خاصا مباشرة من حركة المرور الشبكية واستغل خطأ لم يكن المصممون يعلمون بوجوده. لم يفهم الذكاء الاصطناعي ما الذي استغله. أطلق عليها اسم "رمز الوظائف الفرعية السحرية". كل موديل جديد أفضل. كل زيادة في الحوسبة تدفع إلى الداخل أكثر. المنحنى لا يسطح السطح. ولا أحد يتحدث عن هذا.