Företag övervakar AI-system som traditionella appar, men AI-attacker fungerar helt annorlunda.

Vi hackade Gemini CLI, Vertex AI, Assistant och andra AI-system genom att bädda in uppmaningar i bilder som inte är synliga för användarna.

Ruby's Marshal-deserialisering utnyttjar: ett grundläggande problem som går tillbaka över ett decennium. Lär dig historien och hur vi går vidare härifrån 🧵

Hackare använder Zoom-samtal för att rikta in sig på proffs som är på jakt efter kryptoplånböcker. @dguido bryter ner ELUSIVE COMET:s sociala ingenjörskonst på @ClickHereShow

Vi kom på andra plats i @DARPA:s AI Cyber Challenge. Dessutom uppmanar GitHub Copilot till injektioner, avslöjande av NVIDIA Triton-sårbarheter och demonstrationer av kapning av system med flera agenter. Läs vår AI-späckade Tribune:

Principal AppSec-ingenjören Artur Cygan förklarar varför fuzzing har blivit ett av de mest framgångsrika automatiserade säkerhetsverktygen på @SecWeekly #336.

Jag har tittat igenom AIxCC-reposen. Om du ska komma igång och försöka anpassa för din användning föreslår jag att du tittar på @trailofbits och @theori_io CRS först. Och självklart kommer alla som går min AI Agents for Cybersecurity-klass att få en djupdykning i detta tillsammans med mina egna agenter!

Buttercup vann andrapriset på 3 miljoner dollar på DARPA:s AIxCC. Vi hittade 28 sårbarheter i 20 CWE:er med 90 % noggrannhet på bara 181 USD/poäng, och uppnådde detta med uteslutande icke-resonerande LLM:er.

Om du är @DEFCON, gå med i vårt team idag kl. 16:00 - 16:30 AIxCC Stage Talk: "Building Buttercup" när vi delar med oss av vår erfarenhet av att utveckla Buttercup, vad som fungerade, vad som inte fungerade och lärdomar från att tävla i @DARPA:s AI Cyber Challenge.

Vi kom tvåa i @DARPA's AIxCC med Buttercup! Vårt CRS är nu öppen källkod för alla att använda.