Yritykset valvovat tekoälyjärjestelmiä perinteisten sovellusten tapaan, mutta tekoälyhyökkäykset toimivat täysin eri tavalla.

Hakkeroimme Gemini CLI:n, Vertex AI:n, Assistantin ja muut tekoälyjärjestelmät upottamalla kehotteita kuviin, jotka eivät näy käyttäjille.

Ruby's Marshal -deserialisoinnin hyväksikäyttö: perustavanlaatuinen ongelma, joka juontaa juurensa yli vuosikymmenen taakse. Opi historiasta ja siitä, minne menemme täältä 🧵

Hakkerit käyttävät Zoom-puheluita kohdistaakseen ammattilaisia ja metsästääkseen kryptolompakoita. @dguido hajottaa ELUSIVE COMETin sosiaalisen manipuloinnin @ClickHereShow

Voitimme toisen sijan @DARPA's AI Cyber Challenge -kilpailussa. Lisäksi GitHub Copilot -pikainjektiot, NVIDIA Triton -haavoittuvuuksien paljastaminen ja usean agentin järjestelmän kaappausdemot. Lue tekoälyä täynnä oleva Tribune:

AppSecin pääinsinööri Artur Cygan selittää, miksi fuzzingista on tullut yksi menestyneimmistä automatisoiduista tietoturvatyökaluista @SecWeekly #336.

Olen katsonut AIxCC-arkistoja. Jos aiot aloittaa ja yrittää mukautua käyttöösi, suosittelen tutustumaan ensin @trailofbits ja @theori_io CRS:ään. Ja tietysti jokainen, joka osallistuu AI Agents for Cybersecurity -kurssilleni, pääsee syvälle tähän yhdessä omien agenttieni kanssa!

Buttercup voitti 3 miljoonan dollarin toisen palkinnon DARPA:n AIxCC:ssä. Löysimme 28 haavoittuvuutta 20 CWE:stä 90 %:n tarkkuudella vain 181 dollarilla pisteeltä ja saavutimme tämän yksinomaan ei-järkeilevillä LLM:illä.

Jos olet @DEFCON, liity tiimiimme tänään klo 16.00–16.30 AIxCC Stage Talk: "Building Buttercup", kun jaamme kokemuksemme Buttercupin kehittämisestä, mikä toimi ja mikä ei sekä @DARPA's AI Cyber Challenge -kilpailussa kilpailemisesta saatuja oppeja.

Voitimme toisen sijan @DARPA's AIxCC:ssä Buttercupilla! CRS on nyt avoimen lähdekoodin kaikkien käytettävissä.