Companiile monitorizează sistemele AI ca aplicațiile tradiționale, dar atacurile AI funcționează complet diferit.

Am piratat Gemini CLI, Vertex AI, Assistant și alte sisteme AI prin încorporarea de solicitări în imagini care nu sunt vizibile pentru utilizatori.

Exploatările de deserializare ale lui Ruby's Marshal: o problemă fundamentală care datează de peste un deceniu. Aflați istoria și încotro mergem de aici 🧵

Hackerii folosesc apelurile Zoom pentru a viza profesioniștii, vânând portofele cripto. @dguido descompune ingineria socială a ELUSIVE COMET pe @ClickHereShow

Am câștigat locul al doilea în @DARPA's AI Cyber Challenge. În plus, injecțiile prompte GitHub Copilot, dezvăluirea vulnerabilităților NVIDIA Triton și demo-uri de deturnare a sistemului multi-agent. Citiți Tribuna noastră plină de inteligență artificială:

Inginerul principal AppSec, Artur Cygan, explică de ce fuzzing-ul a devenit unul dintre cele mai de succes instrumente de securitate automatizate de pe @SecWeekly #336.

M-am uitat prin depozitele AIxCC. Dacă aveți de gând să începeți și să încercați să vă adaptați pentru utilizarea dvs., vă sugerez să vă uitați mai întâi la @trailofbits și @theori_io CRS. Și, de fapt, oricine urmează cursul meu de agenți AI pentru securitate cibernetică va face o scufundare profundă în acest sens împreună cu propriii mei agenți!

Buttercup a câștigat premiul al doilea de 3 milioane de dolari la AIxCC al DARPA. Am găsit 28 de vulnerabilități în 20 de CWE-uri cu o precizie de 90% la doar 181 USD/punct, realizând acest lucru exclusiv cu LLM-uri fără raționament.

Dacă sunteți @DEFCON, alăturați-vă echipei noastre astăzi la 4:00 pm - 4:30 pm AIxCC Stage Talk: "Building Buttercup" în timp ce împărtășim experiența noastră în dezvoltarea Buttercup, ce a funcționat, ce nu și lecțiile învățate din competiția în AI Cyber Challenge de la @DARPA.

Am câștigat locul al doilea în AIxCC @DARPA cu Buttercup! CRS-ul nostru este acum open source pentru a fi utilizat de toată lumea.