Bedrijven monitoren AI-systemen zoals traditionele apps, maar AI-aanvallen werken totaal anders.

We hebben Gemini CLI, Vertex AI, Assistant en andere AI-systemen gehackt door prompts in afbeeldingen te embedden die niet zichtbaar zijn voor gebruikers.

Ruby's Marshal-deserialisatie-exploits: een fundamenteel probleem dat meer dan een decennium teruggaat. Leer de geschiedenis en waar we hierna naartoe gaan 🧵

Hackers gebruiken Zoom-gesprekken om professionals te targeten, op jacht naar crypto wallets. @dguido legt de sociale engineering van ELUSIVE COMET uit op @ClickHereShow

We hebben de tweede plaats gewonnen in de AI Cyber Challenge van @DARPA. Daarnaast, GitHub Copilot prompt-injecties, openbaarmaking van kwetsbaarheden in NVIDIA Triton, en demonstraties van het kapen van multi-agent systemen. Lees onze AI-volle Tribune:

Hoofd AppSec-engineer, Artur Cygan, legt uit waarom fuzzing een van de meest succesvolle geautomatiseerde beveiligingstools is geworden op @SecWeekly #336.

Ik heb de AIxCC-repositories doorgekeken. Als je aan de slag wilt gaan en het wilt aanpassen voor jouw gebruik, raad ik aan om eerst naar @trailofbits en @theori_io CRS te kijken. En natuurlijk krijgt iedereen die mijn cursus AI Agents voor Cybersecurity volgt een diepgaande uitleg hierover, samen met mijn eigen agents!

Buttercup won de $3M tweede prijs op DARPA's AIxCC. We vonden 28 kwetsbaarheden over 20 CWEs met 90% nauwkeurigheid voor slechts $181/punt, en dit uitsluitend met niet-redenerende LLM's.

Als je bij @DEFCON bent, sluit je dan vandaag om 16:00 - 16:30 uur aan bij ons team op het AIxCC-podium voor een gesprek: "Building Buttercup" terwijl we onze ervaring delen met het ontwikkelen van Buttercup, wat werkte, wat niet werkte, en de lessen die we hebben geleerd van de competitie in @DARPA's AI Cyber Challenge.

We hebben de tweede plaats behaald in @DARPA's AIxCC met Buttercup! Onze CRS is nu open source voor iedereen om te gebruiken.