تراقب الشركات أنظمة الذكاء الاصطناعي مثل التطبيقات التقليدية ، لكن هجمات الذكاء الاصطناعي تعمل بشكل مختلف تماما.

لقد اخترقنا Gemini CLI و Vertex الذكاء الاصطناعي و Assistant وأنظمة الذكاء الاصطناعي الأخرى عن طريق تضمين المطالبات في الصور غير المرئية للمستخدمين.

مآثر روبي لإلغاء التسلسل المارشال: قضية أساسية يعود تاريخها إلى أكثر من عقد من الزمان. تعرف على التاريخ وإلى أين نذهب من هنا 🧵

يستخدم المتسللون مكالمات Zoom لاستهداف المحترفين ، والبحث عن محافظ التشفير. @dguido يكسر الهندسة الاجتماعية ل Elusive COMET على @ClickHereShow

فزنا بالمركز الثاني في @DARPA الذكاء الاصطناعي Cyber Challenge. بالإضافة إلى ذلك ، الحقن الفوري ل GitHub Copilot ، والكشف عن الثغرات الأمنية في NVIDIA Triton ، والعروض التوضيحية لاختطاف النظام متعدد الوكلاء اقرأ منبر المليء ب الذكاء الاصطناعي:

يشرح مهندس AppSec الرئيسي ، Artur Cygan ، سبب تحول التشويش إلى أحد أنجح أدوات الأمان الآلي على @SecWeekly # 336.

لقد نظرت في مستودعات AIxCC. إذا كنت ستبدأ وتحاول التكيف مع استخدامك ، أقترح النظر في @trailofbits و @theori_io CRS أولا. و ofc أي شخص يأخذ فصل وكلاء الذكاء الاصطناعي للأمن السيبراني الخاص بي سيحصل على غوص عميق في هذا الأمر جنبا إلى جنب مع وكلائي!

فاز Buttercup بالجائزة الثانية بقيمة 3 ملايين دولار في AIxCC التابع ل DARPA. وجدنا 28 ثغرة أمنية عبر 20 CWEs بدقة 90٪ بسعر 181 دولارا فقط للنقطة ، وحققنا ذلك من خلال LLMs غير منطقية حصريا.

إذا كنت @DEFCON ، انضم إلى فريقنا اليوم في الساعة 4:00 مساء - 4:30 مساء AIxCC Stage Talk: "Building Buttercup" حيث نشارك تجربتنا في تطوير الحوذان ، وما الذي نجح ، وما لم ينجح ، والدروس المستفادة من المنافسة في @DARPA الذكاء الاصطناعي Cyber Challenge.

فزنا بالمركز الثاني في AIxCC @DARPA مع Buttercup! أصبح CRS الخاص بنا الآن مفتوح المصدر ليستخدمه الجميع.