"Hasil yang luar biasa menuntut usaha yang luar biasa" Percakapan yang kuat dengan Matt MacInnis (@stanine), COO lama dan CPO yang baru dicetak di @Rippling Kami membahas: 🔸 Transisi Matt dari COO ke CPO dan apa yang mengejutkannya tentang produk terkemuka 🔸 Kerangka kerja "alfa tinggi, beta rendah" untuk mengevaluasi orang, proses, dan produk 🔸 Mengapa Anda harus sengaja kekurangan staf proyek 🔸 Mengapa Anda harus memperlakukan eskalasi sebagai hadiah 🔸 Mengapa proses ada untuk mengurangi volatilitas—dan mengapa itu juga akan menekan kreativitas 🔸 Ketika pendiri harus keluar dari startup mereka (petunjuk: jauh lebih awal dari yang diinginkan VC) 🔸 Lebih banyak lagi Dengarkan sekarang 👇 • YouTube: • Spotify: • Apel: Terima kasih kepada sponsor kami yang luar biasa karena telah mendukung podcast ini: 🏆 @GeminiApp — Asisten AI sehari-hari Anda: 🏆 @datadoghq — Sekarang rumah bagi Eppo, platform eksperimen dan penandaan fitur terkemuka: 🏆 @gofundme Memberikan Dana — Jadikan pemberian akhir tahun mudah:

Mengapa mengamankan AI lebih sulit dari yang diharapkan siapa pun dan krisis keamanan AI yang semakin dekat dengan @SanderSchulhoff Sander adalah peneliti terkemuka di bidang ketahanan musuh, yang merupakan seni dan ilmu untuk membuat sistem AI melakukan hal-hal yang tidak seharusnya mereka lakukan, melalui jail-breaking dan injeksi cepat. Apa yang dibagikan Sander dalam percakapan ini pada dasarnya adalah bahwa semua sistem AI yang kita gunakan sehari-hari terbuka untuk ditipu untuk melakukan hal-hal yang tidak seharusnya, bahwa tidak ada solusi untuk masalah ini, dan bahwa perusahaan yang mencoba menjual solusi untuk ini sebagian besar adalah BS. Percakapan ini tidak ada hubungannya dengan AGI, ini adalah masalah hari ini. Dan satu-satunya alasan kami belum melihat peretasan besar-besaran dan kerusakan serius dari alat AI sejauh ini karena mereka belum diberi banyak kekuatan, dan mereka belum diadopsi secara luas. Tetapi dengan munculnya agen (yang dapat mengambil tindakan atas nama Anda), dan robot, dan bahkan browser bertenaga AI, risikonya akan meningkat dengan sangat cepat. Ini adalah topik yang sangat penting dan itu membuka pikiran saya, dan membuat saya takut, dan itu adalah sesuatu yang perlu kita semua miliki pemahaman dasar karena AI menjadi lebih lazim dalam hidup kita. Di dalam: 🔸 Primer tentang jailbreaking dan serangan injeksi cepat 🔸 Mengapa pagar pembatas AI tidak berfungsi 🔸 Mengapa kita belum melihat insiden keamanan AI besar (tetapi akan segera terjadi) 🔸 Mengapa agen browser AI sangat rentan 🔸 Langkah-langkah praktis yang harus diambil organisasi alih-alih membeli alat keamanan yang tidak efektif 🔸 Mengapa memecahkan ini membutuhkan penggabungan keahlian keamanan siber klasik dengan pengetahuan AI Dengarkan sekarang 👇 • YouTube: • Spotify: • Apel: Terima kasih kepada sponsor kami yang luar biasa karena telah mendukung podcast ini: 🏆 @datadoghq — Sekarang rumah bagi Eppo, platform eksperimen dan penandaan fitur terkemuka: 🏆 @getmetronome — Infrastruktur monetisasi untuk perusahaan perangkat lunak modern: 🏆 @gofundme Memberikan Dana — Jadikan pemberian akhir tahun mudah: