Perusahaan memantau sistem AI seperti aplikasi tradisional, tetapi serangan AI bekerja sama sekali berbeda.

Kami meretas Gemini CLI, Vertex AI, Assistant, dan sistem AI lainnya dengan menyematkan prompt ke dalam gambar yang tidak terlihat oleh pengguna.

Eksploitasi deserialisasi Ruby's Marshal: masalah mendasar yang sudah ada sejak lebih dari satu dekade. Pelajari sejarah dan ke mana kita pergi dari sini 🧵

Peretas menggunakan panggilan Zoom untuk menargetkan para profesional, berburu dompet kripto. @dguido menguraikan rekayasa sosial ELUSIVE COMET di @ClickHereShow

Kami memenangkan tempat kedua dalam AI Cyber Challenge @DARPA. Plus, injeksi prompt GitHub Copilot, pengungkapan kerentanan NVIDIA Triton, dan demo pembajakan sistem multi-agen. Baca Tribune kami yang penuh AI:

Insinyur utama AppSec, Artur Cygan, menjelaskan mengapa fuzzing telah menjadi salah satu alat keamanan otomatis paling sukses di @SecWeekly #336.

Saya telah melihat melalui repositori AIxCC. Jika Anda akan memulai dan mencoba beradaptasi untuk penggunaan Anda, saya sarankan untuk melihat CRS @trailofbits dan @theori_io terlebih dahulu. Dan siapa pun yang mengambil kelas Agen AI untuk Keamanan Siber saya akan menyelami lebih dalam tentang ini bersama dengan agen saya sendiri!

Buttercup memenangkan hadiah kedua $3 juta di AIxCC DARPA. Kami menemukan 28 kerentanan di 20 CWE dengan akurasi 90% hanya dengan $181/poin, mencapainya dengan LLM non-penalaran secara eksklusif.

Jika Anda @DEFCON, bergabunglah dengan tim kami hari ini pukul 16:00 - 16:30 Pembicaraan Panggung AIxCC: "Membangun Buttercup" saat kami berbagi pengalaman kami mengembangkan Buttercup, apa yang berhasil, apa yang tidak, dan pelajaran yang dipetik dari berkompetisi dalam AI Cyber Challenge @DARPA.

Kami memenangkan tempat kedua di AIxCC @DARPA dengan Buttercup! CRS kami sekarang menjadi open source untuk digunakan semua orang.