Hvorfor det er vanskeligere å sikre AI enn noen hadde forventet, og den kommende AI-sikkerhetskrisen med @SanderSchulhoff Sander er en ledende forsker innen feltet adversarial robusthet, som er kunsten og vitenskapen bak å få AI-systemer til å gjøre ting de ikke burde, gjennom jail-breaking og rask injeksjon. Det Sander deler i denne samtalen, er i hovedsak at alle AI-systemene vi bruker til daglig er åpne for å bli lurt til å gjøre ting de ikke burde, at det egentlig ikke finnes noen løsning på dette problemet, og at selskapene som prøver å selge løsninger på dette stort sett er tull. Denne samtalen har ingenting med AGI å gjøre, dette er et problem i dag. Og at den eneste grunnen til at vi ikke har sett massive hacks og alvorlig skade fra AI-verktøy så langt, er fordi de ikke har fått så mye kraft ennå, og de er ikke så utbredt ennå. Men med økningen av agenter (som kan handle på dine vegne), roboter og til og med AI-drevne nettlesere, vil risikoen øke veldig raskt. Dette er et veldig viktig tema, og det åpnet sinnet mitt og skremte meg, og det er noe vi alle må ha en grunnleggende forståelse av etter hvert som AI blir mer utbredt i livene våre. Inni: 🔸 En innføring i jailbreaking og raske injeksjonsangrep 🔸 Hvorfor AI-sikkerhetsmekanismer ikke fungerer 🔸 Hvorfor vi ennå ikke har sett store AI-sikkerhetshendelser (men snart vil gjøre det) 🔸 Hvorfor AI-nettleseragenter er ekstremt sårbare 🔸 De praktiske tiltakene organisasjoner bør ta i stedet for å kjøpe ineffektive sikkerhetsverktøy 🔸 Hvorfor det å løse dette krever å kombinere klassisk cybersikkerhetsekspertise med AI-kunnskap Hør nå 👇 • YouTube: • Spotify: • Eple: Takk til våre fantastiske sponsorer for støtten til podkasten: 🏆 @datadoghq — Nå hjemmet til Eppo, den ledende plattformen for eksperimentering og funksjonsflagging: 🏆 @getmetronome — Monetiseringsinfrastruktur for moderne programvareselskaper: 🏆 @gofundme Giving Funds — Gjør årssluttgaver enkel:

cc @komorama