Miksi tekoälyn turvaaminen on vaikeampaa kuin kukaan odotti, ja lähestyvä tekoälyturvallisuuskriisi @SanderSchulhoff Sander on johtava tutkija vastakkainasettelun kestävyyden alalla, joka on tekoälyjärjestelmien pakottaminen tekemään asioita, joita niiden ei pitäisi tehdä, vankilamurtamisen ja välittömän injektion kautta. Sander jakaa tässä keskustelussa käytännössä sen, että kaikki päivittäiset tekoälyjärjestelmät ovat alttiita huijatuksi tekemään asioita, joita ei pitäisi, että tähän ongelmaan ei oikeastaan ole ratkaisua, ja että yritykset, jotka yrittävät myydä ratkaisuja, ovat enimmäkseen hölynpölyä. Tällä keskustelulla ei ole mitään tekemistä AGI:n kanssa, tämä on ongelma tänään. Ja että ainoa syy siihen, miksi emme ole tähän mennessä nähneet massiivisia hakkereita ja vakavia vahinkoja tekoälytyökaluista, on se, ettei niille ole vielä annettu niin paljon voimaa, eikä niitä ole vielä laajasti otettu käyttöön. Mutta agenttien (jotka voivat toimia puolestasi), robottien ja jopa tekoälypohjaisten selainten nousun myötä riski kasvaa hyvin nopeasti. Tämä on todella tärkeä aihe, joka avasi mieleni ja pelotti minua, ja se on asia, jonka meidän kaikkien täytyy ymmärtää perusasioita, kun tekoäly yleistyy elämässämme. Sisällä: 🔸 Johdanto jailbreakiin ja nopeisiin injektiohyökkäyksiin 🔸 Miksi tekoälykaiteet eivät toimi 🔸 Miksi emme ole vielä nähneet suuria tekoälyturvallisuusongelmia (mutta pian tulee) 🔸 Miksi tekoälyselaimen agentit ovat erittäin haavoittuvia 🔸 Käytännön toimenpiteet, joita organisaatioiden tulisi tehdä sen sijaan, että ostaisivat tehottomia tietoturvatyökaluja 🔸 Miksi tämän ratkaiseminen vaatii klassisen kyberturvallisuusosaamisen yhdistämistä tekoälytietoon Kuuntele nyt 👇 • YouTube: • Spotify: • Omena: Kiitos upeille sponsoreillemme podcastin tukemisesta: 🏆 @datadoghq — Nyt Eppo, johtava kokeilu- ja ominaisuuksien merkintäalusta: 🏆 @getmetronome — Nykyaikaisten ohjelmistoyritysten rahastusinfrastruktuuri: 🏆 @gofundme Varojen antaminen — Tee vuoden lopun lahjoittamisesta helppoa:

En ole koskaan tuntenut näin paljon jäljessä ohjelmoijana. Ammattia uudistetaan dramaattisesti, kun ohjelmoijan tuottamat osat ovat yhä harvinaisempia ja harvinaisempia. Minulla on tunne, että voisin olla kymmenen kertaa voimakkaampi, jos vain yhdistäisin kunnolla sen, mitä on tullut saataville viimeisen ~vuoden aikana, ja boostin vaatimatta jättäminen tuntuu selkeästi taitoongelmalta. On uusi ohjelmoitava abstraktiokerros hallittavaksi (alla olevien tavallisten kerrosten lisäksi), johon liittyy agentit, aliagentit, niiden kehotteet, kontekstit, muisti, tilat, käyttöoikeudet, työkalut, lisäosat, taidot, koukut, MCP, LSP, slash-komennot, työnkulut, IDE-integraatiot sekä tarve rakentaa kokonaisvaltainen mielenmalli perusluonteeltaan stokastisten, erehtyvien, käsittämättömien ja muuttuvien entiteettien vahvuuksille ja sudenkuopille, jotka yhtäkkiä sekoittuivat vanhaan hyvään insinööritaitoon. Selvästi jokin voimakas avaruusolentojen työkalu jaettiin ympäriinsä, mutta siinä ei ole käyttöohjetta, ja kaikkien täytyy keksiä, miten sitä pidetään ja käytetään, samalla kun siitä seurannut 9 magnitudin maanjäristys ravistelee ammattia. Kääri hihat ylös, ettet jää jälkeen.