Mengapa mengamankan AI lebih sulit dari yang diharapkan siapa pun dan krisis keamanan AI yang semakin dekat dengan @SanderSchulhoff Sander adalah peneliti terkemuka di bidang ketahanan musuh, yang merupakan seni dan ilmu untuk membuat sistem AI melakukan hal-hal yang tidak seharusnya mereka lakukan, melalui jail-breaking dan injeksi cepat. Apa yang dibagikan Sander dalam percakapan ini pada dasarnya adalah bahwa semua sistem AI yang kita gunakan sehari-hari terbuka untuk ditipu untuk melakukan hal-hal yang tidak seharusnya, bahwa tidak ada solusi untuk masalah ini, dan bahwa perusahaan yang mencoba menjual solusi untuk ini sebagian besar adalah BS. Percakapan ini tidak ada hubungannya dengan AGI, ini adalah masalah hari ini. Dan satu-satunya alasan kami belum melihat peretasan besar-besaran dan kerusakan serius dari alat AI sejauh ini karena mereka belum diberi banyak kekuatan, dan mereka belum diadopsi secara luas. Tetapi dengan munculnya agen (yang dapat mengambil tindakan atas nama Anda), dan robot, dan bahkan browser bertenaga AI, risikonya akan meningkat dengan sangat cepat. Ini adalah topik yang sangat penting dan itu membuka pikiran saya, dan membuat saya takut, dan itu adalah sesuatu yang perlu kita semua miliki pemahaman dasar karena AI menjadi lebih lazim dalam hidup kita. Di dalam: 🔸 Primer tentang jailbreaking dan serangan injeksi cepat 🔸 Mengapa pagar pembatas AI tidak berfungsi 🔸 Mengapa kita belum melihat insiden keamanan AI besar (tetapi akan segera terjadi) 🔸 Mengapa agen browser AI sangat rentan 🔸 Langkah-langkah praktis yang harus diambil organisasi alih-alih membeli alat keamanan yang tidak efektif 🔸 Mengapa memecahkan ini membutuhkan penggabungan keahlian keamanan siber klasik dengan pengetahuan AI Dengarkan sekarang 👇 • YouTube: • Spotify: • Apel: Terima kasih kepada sponsor kami yang luar biasa karena telah mendukung podcast ini: 🏆 @datadoghq — Sekarang rumah bagi Eppo, platform eksperimen dan penandaan fitur terkemuka: 🏆 @getmetronome — Infrastruktur monetisasi untuk perusahaan perangkat lunak modern: 🏆 @gofundme Memberikan Dana — Jadikan pemberian akhir tahun mudah:

Saya tidak pernah merasa tertinggal sebanyak ini sebagai seorang programmer. Profesi ini secara dramatis difaktorkan ulang karena bit yang disumbangkan oleh programmer semakin jarang dan di antaranya. Saya merasa bahwa saya bisa menjadi 10X lebih kuat jika saya hanya merangkai dengan benar apa yang telah tersedia selama ~ tahun terakhir dan kegagalan untuk mengklaim peningkatan terasa seperti masalah keterampilan. Ada lapisan abstraksi baru yang dapat diprogram untuk dikuasai (selain lapisan biasa di bawah ini) yang melibatkan agen, subagen, perintah, konteks, memori, mode, izin, alat, plugin, keterampilan, kait, MCP, LSP, perintah garis miring, alur kerja, integrasi IDE, dan kebutuhan untuk membangun model mental yang mencakup semua kekuatan dan jebakan entitas yang pada dasarnya stokastik, salah, tidak dapat dipahami, dan berubah tiba-tiba bercampur dengan apa yang dulunya merupakan teknik kuno yang baik. Jelas beberapa alat alien yang kuat diserahkan kecuali tidak dilengkapi dengan manual dan semua orang harus mencari cara memegangnya dan mengoperasikannya, sementara gempa berkekuatan 9 yang dihasilkan mengguncang profesi. Singsingkan lengan baju Anda agar tidak tertinggal.