Las empresas están monitoreando los sistemas de IA como las aplicaciones tradicionales, pero los ataques de IA funcionan de manera completamente diferente.

Hackeamos Gemini CLI, Vertex AI, Assistant y otros sistemas de IA incrustando indicaciones en imágenes que no son visibles para los usuarios.

Explota la deserialización de Ruby's Marshal: un problema fundamental que se remonta a más de una década. Aprende la historia y hacia dónde vamos desde aquí 🧵

Los piratas informáticos usan las llamadas de Zoom para atacar a los profesionales, a la caza de billeteras criptográficas. @dguido desglosa la ingeniería social de ELUSIVE COMET en @ClickHereShow

Ganamos el segundo lugar en el AI Cyber Challenge de @DARPA. Además, inyecciones de avisos de GitHub Copilot, divulgación de vulnerabilidades de NVIDIA Triton y demostraciones de secuestro de sistemas multiagente. Lea nuestra Tribune repleta de IA:

El ingeniero principal de AppSec, Artur Cygan, explica por qué el fuzzing se ha convertido en una de las herramientas de seguridad automatizadas más exitosas en @SecWeekly #336.

He revisado los repositorios de AIxCC. Si va a comenzar y tratar de adaptarse para su uso, le sugiero que primero mire @trailofbits y @theori_io CRS. ¡Y por supuesto, cualquiera que tome mi clase de Agentes de IA para Ciberseguridad obtendrá una inmersión profunda en esto junto con mis propios agentes!

Buttercup ganó el segundo premio de $3M en el AIxCC de DARPA. Encontramos 28 vulnerabilidades en 20 CWEs con un 90% de precisión a solo $181/punto, logrando esto exclusivamente con LLMs que no razonan.

Si estás en @DEFCON, únete a nuestro equipo hoy a las 4:00 pm - 4:30 pm en el escenario AIxCC para hablar: "Construyendo Buttercup" mientras compartimos nuestra experiencia desarrollando Buttercup, lo que funcionó, lo que no, y las lecciones aprendidas de competir en el Desafío Cibernético de IA de @DARPA.

¡Ganamos el segundo lugar en el AIxCC de @DARPA con Buttercup! Nuestro CRS ahora es de código abierto para que todos lo usen.