企業は従来のアプリと同様に AI システムを監視していますが、AI 攻撃の仕組みはまったく異なります。

Gemini CLI、Vertex AI、アシスタント、その他の AI システムをハッキングし、ユーザーに表示されない画像にプロンプトを埋め込みました。

RubyのMarshal逆シリアル化の悪用:10年以上前にさかのぼる基本的な問題。歴史とここからどこ🧵へ行くのかを学ぶ

ハッカーは Zoom 通話を使用して専門家を標的にし、暗号通貨ウォレットを探します。@dguido は ELUSIVE COMET のソーシャル エンジニアリングを @ClickHereShow で分析します

@DARPAのAIサイバーチャレンジで2位を獲得しました。さらに、GitHub Copilot のプロンプト インジェクション、NVIDIA Triton の脆弱性開示、マルチエージェント システム ハイジャックのデモも提供されます。AI 満載のトリビューンを読んでください。

AppSecのプリンシパルエンジニアであるArtur Cyganは、ファジングが@SecWeekly#336で最も成功した自動セキュリティツールの1つになった理由を説明しています。

私はAIxCCリポジトリに目を通しました。開始して自分の用途に適応しようとする場合は、まず CRS @trailofbitsと@theori_ioを確認することをお勧めします。そして、私のサイバーセキュリティのための AI エージェントのクラスを受講する人は誰でも、私自身のエージェントと一緒にこれについて深く掘り下げることができます。

Buttercup は DARPA の AIxCC で $3M の 2 等賞を獲得しました。20 の CWE で 28 の脆弱性を発見し、わずか 181 ドル/ポイントで 90% の精度で、これは非推論的な LLM のみで達成されました。

ご@DEFCONの方は、今すぐ午後 4:00 から午後 4:30 まで私たちのチームに参加してください。AIxCC ステージ トーク: 「Buttercup の構築」では、Buttercup の開発経験、何がうまくいったのか、何がうまくいかなかったのか、@DARPA の AI サイバー チャレンジでの競争から学んだ教訓を共有します。

@DARPAのAIxCCでButtercupで2位を獲得しました!私たちのCRSは現在、誰もが使用できるオープンソースです。