Компанії стежать за системами штучного інтелекту, як і за традиційними додатками, але атаки зі штучним інтелектом працюють зовсім по-іншому.

Ми зламали Gemini CLI, Vertex AI, Assistant та інші системи штучного інтелекту, вбудувавши підказки в зображення, які не видно користувачам.

Подвиги Маршала Рубі з десеріалізації: фундаментальна проблема, що налічує більше десяти років. Дізнайтеся історію та куди ми підемо далі 🧵

Хакери використовують дзвінки Zoom для націлювання на професіоналів, які полюють на криптогаманці. @dguido розбиває соціальну інженерію ELUSIVE COMET на @ClickHereShow

Ми посіли друге місце в @DARPA AI Cyber Challenge. Крім того, швидкі ін'єкції GitHub Copilot, розкриття вразливостей NVIDIA Triton та демонстрації викрадення системи кількома агентами. Читайте нашу AI-упаковану Трибуну:

Головний інженер AppSec, Артур Циган, пояснює, чому фаззинг став одним з найуспішніших автоматизованих інструментів безпеки на @SecWeekly #336.

Я переглянув репозиторії AIxCC. Якщо ви збираєтеся почати і спробувати адаптуватися для вашого використання, я пропоную спочатку подивитися на @trailofbits і @theori_io CRS. І будь-хто, хто проходить мій курс AI Agents for Cybersecurity, отримає глибоке розуміння цього разом із моїми власними агентами!

Buttercup виграв другий приз у розмірі $3 млн на AIxCC від DARPA. Ми виявили 28 вразливостей у 20 CWE з точністю 90% за ціною всього 181 долар США за точку, досягнувши цього за допомогою виключно необґрунтованих LLM.

Якщо ви @DEFCON, приєднуйтесь до нашої команди сьогодні о 16:00 - 16:30 AIxCC Stage Talk: "Building Buttercup", де ми ділимося своїм досвідом розробки Buttercup, тим, що спрацювало, що ні, а також уроками, отриманими під час участі в AI Cyber Challenge @DARPA.

Ми посіли друге місце в AIxCC @DARPA року з Buttercup! Наш CRS тепер має відкритий вихідний код для всіх.