Unternehmen überwachen KI-Systeme wie traditionelle Apps, aber KI-Angriffe funktionieren völlig anders.

Wir haben Gemini CLI, Vertex AI, Assistant und andere KI-Systeme gehackt, indem wir Eingabeaufforderungen in Bilder eingebettet haben, die für die Benutzer nicht sichtbar sind.

Rubys Marshal-Deserialisierungs-Exploits: ein grundlegendes Problem, das seit über einem Jahrzehnt besteht. Erfahren Sie die Geschichte und wie es weitergeht 🧵

Hacker nutzen Zoom-Anrufe, um Fachleute ins Visier zu nehmen und nach Krypto-Wallets zu suchen. @dguido erklärt die soziale Manipulation von ELUSIVE COMET in der @ClickHereShow.

Wir haben den zweiten Platz beim AI Cyber Challenge von @DARPA gewonnen. Außerdem: GitHub Copilot Prompt-Injektionen, Offenlegung von NVIDIA Triton-Schwachstellen und Demos zum Hijacking von Multi-Agenten-Systemen. Lesen Sie unser AI-gefülltes Tribune:

Der Haupt-AppSec-Ingenieur Artur Cygan erklärt, warum Fuzzing eines der erfolgreichsten automatisierten Sicherheitstools bei @SecWeekly #336 geworden ist.

Ich habe die AIxCC-Repos durchgesehen. Wenn du anfangen und es für deinen Gebrauch anpassen möchtest, empfehle ich, zuerst die CRS von @trailofbits und @theori_io anzusehen. Und natürlich erhält jeder, der an meinem Kurs über KI-Agenten für Cybersicherheit teilnimmt, einen tiefen Einblick in dieses Thema sowie in meine eigenen Agenten!

Buttercup gewann den $3M zweiten Preis beim DARPA AIxCC. Wir fanden 28 Schwachstellen in 20 CWEs mit einer Genauigkeit von 90 % zu nur $181/Punkt und erreichten dies ausschließlich mit nicht-argumentierenden LLMs.

Wenn du bei @DEFCON bist, schließe dich heute um 16:00 - 16:30 Uhr unserem Team auf der AIxCC-Bühne an: "Building Buttercup", während wir unsere Erfahrungen bei der Entwicklung von Buttercup teilen, was funktioniert hat, was nicht und welche Lektionen wir aus der Teilnahme an @DARPA's AI Cyber Challenge gelernt haben.

Wir haben den zweiten Platz beim @DARPA AIxCC mit Buttercup gewonnen! Unser CRS ist jetzt Open Source und für alle verfügbar.