Firmy monitorują systemy AI jak tradycyjne aplikacje, ale ataki AI działają zupełnie inaczej.

Zhakowaliśmy Gemini CLI, Vertex AI, Asystenta i inne systemy AI, wprowadzając polecenia w obrazy, które są niewidoczne dla użytkowników.

Eksploity deserializacji Ruby'ego Marshal: fundamentalny problem, który sięga ponad dekadę wstecz. Poznaj historię i dokąd zmierzamy stąd 🧵

Hakerzy wykorzystują rozmowy na Zoomie, aby celować w profesjonalistów, polując na portfele kryptowalutowe. @dguido omawia inżynierię społeczną ELUSIVE COMET na @ClickHereShow

Zajęliśmy drugie miejsce w wyzwaniu AI Cyber Challenge organizowanym przez @DARPA. Dodatkowo, wstrzyknięcia promptów w GitHub Copilot, ujawnienie podatności NVIDIA Triton oraz demonstracje przejęcia systemów wieloagentowych. Przeczytaj naszą pełną AI Tribune:

Główny inżynier ds. bezpieczeństwa aplikacji, Artur Cygan, wyjaśnia, dlaczego fuzzing stał się jednym z najskuteczniejszych zautomatyzowanych narzędzi zabezpieczających w @SecWeekly #336.

Przejrzałem repozytoria AIxCC. Jeśli zamierzasz zacząć i spróbować dostosować je do swoich potrzeb, sugeruję najpierw zapoznać się z CRS @trailofbits i @theori_io. Oczywiście każdy, kto weźmie udział w moim kursie o agentach AI w cyberbezpieczeństwie, otrzyma szczegółowe informacje na ten temat, wraz z moimi własnymi agentami!

Buttercup zdobył drugą nagrodę w wysokości 3 milionów dolarów na AIxCC organizowanym przez DARPA. Znaleźliśmy 28 luk w zabezpieczeniach w 20 CWEs z 90% dokładnością za jedynie 181 dolarów za punkt, osiągając to wyłącznie przy użyciu modeli LLM bez rozumowania.

Jeśli jesteś na @DEFCON, dołącz do naszego zespołu dzisiaj o 16:00 - 16:30 na AIxCC Stage Talk: "Budowanie Buttercup", gdzie podzielimy się naszymi doświadczeniami z rozwoju Buttercup, co zadziałało, co nie, oraz lekcje wyniesione z rywalizacji w @DARPA's AI Cyber Challenge.

Zajęliśmy drugie miejsce w @DARPA's AIxCC z Buttercup! Nasz CRS jest teraz dostępny jako open source dla wszystkich.