Les entreprises surveillent les systèmes d'IA comme des applications traditionnelles, mais les attaques d'IA fonctionnent complètement différemment.

Nous avons piraté Gemini CLI, Vertex AI, Assistant et d'autres systèmes d'IA en intégrant des invites dans des images qui ne sont pas visibles pour les utilisateurs.

Les exploits de désérialisation de Marshal de Ruby : un problème fondamental qui remonte à plus d'une décennie. Découvrez l'histoire et où nous allons à partir d'ici 🧵

Les hackers utilisent des appels Zoom pour cibler des professionnels, à la recherche de portefeuilles crypto. @dguido explique l'ingénierie sociale d'ELUSIVE COMET sur @ClickHereShow.

Nous avons remporté la deuxième place au défi AI Cyber de @DARPA. De plus, des injections de prompt dans GitHub Copilot, la divulgation de vulnérabilités de NVIDIA Triton, et des démonstrations de détournement de systèmes multi-agents. Lisez notre Tribune remplie d'IA :

L'ingénieur principal en sécurité des applications, Artur Cygan, explique pourquoi le fuzzing est devenu l'un des outils de sécurité automatisés les plus efficaces sur @SecWeekly #336.

J'ai parcouru les dépôts AIxCC. Si vous allez commencer et essayer de vous adapter à votre utilisation, je vous suggère de regarder d'abord @trailofbits et @theori_io CRS. Et bien sûr, quiconque suit mon cours sur les agents d'IA pour la cybersécurité bénéficiera d'une plongée approfondie sur ce sujet ainsi que sur mes propres agents !

Buttercup a remporté le deuxième prix de 3 millions de dollars au DARPA's AIxCC. Nous avons trouvé 28 vulnérabilités à travers 20 CWEs avec une précision de 90 % pour seulement 181 $/point, réalisant cela uniquement avec des LLMs non raisonneurs.

Si vous êtes à @DEFCON, rejoignez notre équipe aujourd'hui de 16h00 à 16h30 sur la scène AIxCC pour une discussion : "Construire Buttercup" où nous partagerons notre expérience dans le développement de Buttercup, ce qui a fonctionné, ce qui n'a pas fonctionné, et les leçons tirées de notre participation au défi AI Cyber de @DARPA.

Nous avons remporté la deuxième place au AIxCC de @DARPA avec Buttercup ! Notre CRS est maintenant open source pour que tout le monde puisse l'utiliser.