Компании следят за системами ИИ так же, как за традиционными приложениями, но атаки на ИИ работают совершенно иначе.

Мы взломали Gemini CLI, Vertex AI, Assistant и другие AI-системы, внедрив подсказки в изображения, которые не видны пользователям.

Эксплуатация десериализации Ruby's Marshal: фундаментальная проблема, существующая более десяти лет. Узнайте историю и куда мы движемся дальше 🧵

Хакеры используют звонки в Zoom, чтобы нацелиться на профессионалов, охотясь за криптовалютными кошельками. @dguido разбирает социальную инженерию ELUSIVE COMET на @ClickHereShow

Мы заняли второе место в AI Cyber Challenge от @DARPA. Плюс, инъекции подсказок GitHub Copilot, раскрытие уязвимости NVIDIA Triton и демонстрации захвата многоагентных систем. Читайте наш насыщенный AI Tribune:

Главный инженер по безопасности приложений Артур Цыган объясняет, почему фуззинг стал одним из самых успешных автоматизированных инструментов безопасности на @SecWeekly #336.

Я просмотрел репозитории AIxCC. Если вы собираетесь начать и попробовать адаптировать их для своего использования, я рекомендую сначала обратить внимание на CRS от @trailofbits и @theori_io. И, конечно, любой, кто пройдет мой курс по ИИ-агентам для кибербезопасности, получит углубленное понимание этого вместе с моими собственными агентами!

Buttercup выиграл второй приз в размере 3 миллиона долларов на AIxCC от DARPA. Мы обнаружили 28 уязвимостей в 20 CWEs с точностью 90% всего за 181 доллар за пункт, достигнув этого исключительно с помощью LLM без рассуждений.

Если вы на @DEFCON, присоединяйтесь к нашей команде сегодня в 16:00 - 16:30 на AIxCC Stage Talk: "Создание Buttercup", где мы поделимся нашим опытом разработки Buttercup, что сработало, что не сработало, и уроками, извлеченными из участия в @DARPA's AI Cyber Challenge.

Мы заняли второе место в AIxCC от @DARPA с Buttercup! Наш CRS теперь является открытым исходным кодом для всех.