Haluan jatkaa hieman tästä aiheesta, josta (toistaiseksi) näen hyvin vähän huolta. Olemme keränneet valtavasti yksityistä dataa eri paikoissa, mukaan lukien viestisovellukset. Todellinen "tappajasovellus" sukupolven tekoälylle on niiden vastaanottaminen ja data muuttaminen tuloiksi.

Esimerkiksi, jos käytät joitain suojattuja viestintäsovelluksia, huomaat, että ne ovat erittäin hyödyllisiä keskusteluhistorian varmuuskopioinnissa, jotta "et menetä tietoja". Tiedän, että jotkut todella luottavat tähän, mutta se tarkoittaa myös (sattumalta) sitä, että olet kantanut mukanasi valtavaa tietopinoa.

Tuo data on tällä hetkellä täysin pimeää mainosyrityksille. Onko se arvokas? Minä en tiedä. Ehkä kaikki, mitä siitä voidaan hyödyntää kannattavalla tavalla, on jo olemassa julkisella foorumilla! Mutta varmasti joku haluaa selvittää sen.

Samoin tietokoneellasi tai puhelimellasi on paljon asioita, jotka "ovat tiedossa" yhdelle tai toiselle teknologiayritykselle, mutta eivät välttämättä kaikille teknologiayrityksille. Esimerkiksi Googlella on vuosien sähköpostini ja paljon pilvidokumentteja, mutta Metalla, Claudella ja OpenAI:lla ei. Vielä.

Nyt en tiedä tulevaisuutta. Ehkä kymmenen vuoden päästä elämme tekoälyutopiassa tai dystopiassa, ja huolenaiheet kohdennetuista mainoksista ovat vanhanaikaisia. Mutta jos tarkastelet nykyisiä liiketoimintamalleja, kaiken datan hyödyntäminen on seuraava raja.

Kaikki tämä vaatii ihmisten vakuuttelua asentamaan hyödyllisiä tekoälytyökaluja paikallisesti ja antamaan niille pääsy asiaankuuluviin tietovarastoihin. Nämä työkalut ovat jo saatavilla useimmilta tekoälyyrityksiltä, ja teknologiayrityksillä on kaikilla "tekoälystrategioita" olemassa oleville sovelluksilleen.

Nyt ihmiset sanovat, että tämä onnistuu paikallisten mallien ja TEE-mallien avulla. Kyllä, voi. Mutta tehdäkseen mitään hyödyllistä (paitsi auttaakseen tekstien kirjoittamisessa ja tiivistämisessä), näiden työkalujen täytyy tehdä asioita maailmassa. Tämä luo ensinnäkin tahattoman riskin datan paljastumisesta.

En puhu (vielä) yrityksistä, jotka tahallaan yrittäisivät kaupallistaa dataa. Tällä hetkellä puhun vain tahattomasta (tai pahantahtoisesta) poistumisriskistä. Välittömät injektiohyökkäykset, jotka saavat mallin ohjaamaan yksityiset tiedot ulospäin.

Emme ole vielä nähneet ensimmäistä oikean maailman prompt-injektion "matoa". Mutta veikkaan, että löydämme! Se tulee olemaan jännittävää. Tämän riskin torjunnan huippu on... aika pörröinen juuri nyt.

Esimerkiksi parhaat ideamme tällä hetkellä ovat "älä koskaan anna minkään ylittää yksityisen/julkisen rajoja", mikä ei ole kovin hyödyllistä monissa tehtävissä. Tai "käytä malleja yksityisyyden loukkausten tarkistamiseen", mikä muistuttaa minua siitä tohtori Seussin tarinasta kuninkaasta, joka käyttää kissoja jahtaamaan hiiriä, jotka varastavat hänen juustoaan.

Mutta tuo huoli on toissijainen. Todellinen riski on, että yritykset rakentavat tätä järjestelmää *tarkoituksella* muokkaavat sitä saadakseen oivalluksia. Harkitse agenttia, joka tekee haun puolestasi avoimella hakukoneella. Yksityisten näkemysten lähettäminen tekee hausta hyödyllisempää!

Yksityiset tietosi kertovat paikalliselle/TEE-mallille, mistä pidät. Pyydät välittäjää etsimään tuotteita. Kuinka paljon yksityistä tietoa mieltymyksistäsi liittyy tuohon hakuun tarkoituksella?

Vastaus, niin pitkälle kuin näen, on: paljon! Mitä enemmän hakukoneella on kontekstia toiveistasi, sitä paremmat tulokset ovat. Ja sattumalta sitä parempi mainosten kohdentaminen ja seuranta.

Yksi vastaus on: ketä kiinnostaa! Ehkä näin maailma toimii nyt. Voimme jopa rakentaa malleja, jotka seuraavat ja mainostavat sinua "yksityisesti", eli he lukevat kaikki luottamukselliset tietosi ja käyttävät niitä myydäkseen sinulle oikeaa saippuaa. Onko se niin paha?

Tietenkin samaan aikaan on hallituksia, jotka haluavat päästä käsiksi näihin näkemyksiin. Jos voisit käyttää näitä tietoja rikollisten (tai mahdollisten rikollisten) seuraamiseen ja tunnistamiseen ilman, että kirjaimellisesti lukisit heidän tietojaan, eikö se olisi mahtava tutkintatyökalu?

Nämä eivät ole tulevaisuuden huolia kuten AGi. Gen AI pystyy tähän juuri nyt. Joten yritykset työskentelevät kaikki näiden ideoiden toteuttamiseksi tänään. Hallitukset (kuten EU) pyytävät jo pääsyä malleihin, jotka lukevat yksityistä dataa.

Mitä tahansa päätämme tehdä, haluan ihmisten tekevän nämä valinnat silmät avoinna. En halua, että kukaan sanoo "no, tämä ominaisuus väittää olevansa yksityinen, joten miksei klikkaisi Ok tällä kertaa" ja viiden vuoden luottamuksellista datavirtaa sisäänpääsyputkeen.

Yrittää saada ihmiset välittämään tästä on kuin yrittäisi pakottaa teini-ikäisen käyttämään aurinkovoidetta. Kaikki riskit kuulostavat niin teoreettisilta, ja hyödyt ovat kaikki nykyhetkessä. En vain halua, että me kaikki heräämme jonain päivänä ja toivomme, että olisimme tehneet asiat toisin.