As empresas estão a monitorizar sistemas de IA como aplicações tradicionais, mas os ataques de IA funcionam de forma completamente diferente.

Hackeámos o Gemini CLI, o Vertex AI, o Assistant e outros sistemas de IA ao incorporar prompts em imagens que não são visíveis para os utilizadores.

Exploits de desserialização do Marshal do Ruby: uma questão fundamental que remonta a mais de uma década. Aprenda a história e para onde vamos a partir daqui 🧵

Hackers usam chamadas do Zoom para almejar profissionais, à procura de carteiras de criptomoedas. @dguido analisa a engenharia social do ELUSIVE COMET no @ClickHereShow

Ficamos em segundo lugar no Desafio de Cibersegurança da IA da @DARPA. Além disso, injeções de prompts do GitHub Copilot, divulgação de vulnerabilidades do NVIDIA Triton e demonstrações de sequestro de sistemas multi-agente. Leia nosso Tribune repleto de IA:

O engenheiro principal de AppSec, Artur Cygan, explica por que a fuzzing se tornou uma das ferramentas de segurança automatizadas mais bem-sucedidas no @SecWeekly #336.

Eu olhei pelos repositórios da AIxCC. Se você vai começar e tentar adaptar para o seu uso, sugiro olhar primeiro para o CRS da @trailofbits e @theori_io. E claro, qualquer um que fizer minha aula de Agentes de IA para Cibersegurança terá uma imersão profunda nisso, junto com meus próprios agentes!

Buttercup ganhou o segundo prêmio de $3M no AIxCC da DARPA. Encontrámos 28 vulnerabilidades em 20 CWEs com 90% de precisão a apenas $181/ponto, conseguindo isso exclusivamente com LLMs não-raciocínio.

Se você está no @DEFCON, junte-se à nossa equipe hoje às 16:00 - 16:30 no AIxCC Stage Talk: "Construindo Buttercup", enquanto compartilhamos nossa experiência desenvolvendo o Buttercup, o que funcionou, o que não funcionou e as lições aprendidas ao competir no @DARPA's AI Cyber Challenge.

Conseguimos o segundo lugar no AIxCC da @DARPA com o Buttercup! O nosso CRS agora é open source para todos usarem.