Các công ty đang giám sát các hệ thống AI giống như các ứng dụng truyền thống, nhưng các cuộc tấn công AI hoạt động hoàn toàn khác.

Chúng tôi đã hack Gemini CLI, Vertex AI, Assistant và các hệ thống AI khác bằng cách nhúng các prompt vào hình ảnh mà người dùng không thể nhìn thấy.

Các lỗ hổng trong việc giải mã Marshal của Ruby: một vấn đề cơ bản đã tồn tại hơn một thập kỷ. Tìm hiểu lịch sử và chúng ta sẽ đi đâu từ đây 🧵

Tin tặc sử dụng cuộc gọi Zoom để nhắm mục tiêu vào các chuyên gia, săn lùng ví tiền điện tử. @dguido phân tích kỹ thuật xã hội của ELUSIVE COMET trên @ClickHereShow

Chúng tôi đã giành giải nhì trong Thử thách AI Cyber của @DARPA. Thêm vào đó, các lỗ hổng tiêm lệnh GitHub Copilot, công bố lỗ hổng NVIDIA Triton, và các buổi trình diễn chiếm quyền hệ thống đa tác nhân. Đọc Tribune đầy ắp AI của chúng tôi:

Kỹ sư AppSec chính, Artur Cygan, giải thích tại sao fuzzing đã trở thành một trong những công cụ bảo mật tự động thành công nhất trên @SecWeekly #336.

Tôi đã xem qua các kho lưu trữ AIxCC. Nếu bạn định bắt đầu và cố gắng điều chỉnh cho mục đích của mình, tôi gợi ý bạn nên xem qua CRS của @trailofbits và @theori_io trước. Và tất nhiên, bất kỳ ai tham gia lớp học AI Agents for Cybersecurity của tôi sẽ được tìm hiểu sâu về điều này cùng với các tác nhân của riêng tôi!

Buttercup đã giành giải nhì trị giá 3 triệu đô la tại AIxCC của DARPA. Chúng tôi đã phát hiện 28 lỗ hổng trên 20 CWE với độ chính xác 90% chỉ với 181 đô la/điểm, đạt được điều này chỉ với các LLM không lý luận.

Nếu bạn đang ở @DEFCON, hãy tham gia đội ngũ của chúng tôi hôm nay lúc 4:00 chiều - 4:30 chiều tại AIxCC Stage Talk: "Xây dựng Buttercup" khi chúng tôi chia sẻ kinh nghiệm phát triển Buttercup, những gì đã thành công, những gì không, và những bài học rút ra từ việc tham gia @DARPA's AI Cyber Challenge.

Chúng tôi đã giành giải nhì trong cuộc thi AIxCC của @DARPA với Buttercup! CRS của chúng tôi hiện đã trở thành mã nguồn mở để mọi người có thể sử dụng.