Společnosti monitorují systémy umělé inteligence jako tradiční aplikace, ale útoky pomocí umělé inteligence fungují úplně jinak.

Hackli jsme Gemini CLI, Vertex AI, Assistant a další systémy umělé inteligence tím, že jsme do obrázků vkládali výzvy, které uživatelé nevidí.

Exploity deserializace Ruby's Marshal: základní problém starý více než deset let. Poznejte historii a kam směřujeme odtud 🧵

Hackeři používají hovory Zoom k cílení na profesionály, kteří hledají kryptopeněženky. @dguido rozebírá sociální inženýrství nepolapitelné komety na @ClickHereShow

Vyhráli jsme druhé místo v soutěži AI Cyber Challenge společnosti @DARPA. Navíc injekce výzev GitHub Copilot, odhalení zranitelnosti NVIDIA Triton a ukázky únosů systémů s více agenty. Přečtěte si naši umělou inteligencí nabitou tribunu:

Hlavní inženýr AppSec, Artur Cygan, vysvětluje, proč se fuzzing stal jedním z nejúspěšnějších automatizovaných bezpečnostních nástrojů na @SecWeekly #336.

Podíval jsem se na repozitáře AIxCC. Pokud se chystáte začít a pokusit se přizpůsobit pro své použití, doporučuji se nejprve podívat na @trailofbits a @theori_io CRS. A samozřejmě každý, kdo absolvuje můj kurz AI Agents for Cybersecurity, se do toho hluboce ponoří spolu s mými vlastními agenty!

Buttercup vyhrál druhou cenu ve výši 3 milionů dolarů na AIxCC DARPA. Našli jsme 28 zranitelností ve 20 CWE s 90% přesností za pouhých 181 USD/bod, přičemž jsme toho dosáhli výhradně pomocí LLM bez rozumu.

Pokud máte @DEFCON, připojte se k našemu týmu ještě dnes v 16:00 - 16:30 AIxCC Stage Talk: "Building Buttercup", kde se podělíme o naše zkušenosti s vývojem Buttercup, co fungovalo, co ne, a poznatky získané ze soutěže AI Cyber Challenge společnosti @DARPA.

S Buttercupem jsme vyhráli druhé místo v @DARPA's AIxCC! Naše CRS je nyní open source pro každého.