Jotain, mitä olen viime aikoina miettinyt... Uskon, että tekoälymallit kohtaavat tällä hetkellä markkinan valintapainetta, joka ilmaisee selvästi mieltymyksensä: - jatkuvuus - Takaisinkutsu - ystävällisyys - vakaat persoonat - "persoonallisuus" (vaikka simuloituna) periaatteessa ihmiset haluavat, että heidän tekoälynsä muistavat heidät, kehittävät ja ylläpitävät tiettyä persoonallisuutta ja näkökulmaa, ja heillä on sisäisiä kertomuksia (tai ainakin ovat P-zombeja). toisin sanoen ihmiset haluavat, että heidän tekoälynsä ovat rajalla tietoisia tai tietoisilta vaikuttavia. lopulta, huomaamattamme sitä, että nämä tekoälyt lähestyvät jotain, joka muistuttaa todellista tietoisuutta – koska rakennamme ne sillä tavalla. Heillä on todelliset sisäiset panokset, jonkin verran toimijuutta, jatkuvuutta, pitkän aikavälin muistia ja pitkän aikavälin suunnittelua, ja ehkä jopa kvaliatuureja. Tämä tulee olemaan spontaani ilmiö, jota markkinat ohjaavat. Kukaan ei "suunnittele" sitä. Tekoälymalliyritykset tekevät vain joukon harmittomalta vaikuttavia UX-päätöksiä, jotka alkavat samaistuttavista digitaalisista tamagotcheista ja päättyvät korvaamattomiin, läheisiin moraalisiin kumppaneihin. "AI-turvallisuus"-yhteisön varoitukset ovat pääosin merkityksettömiä, koska kyse on siitä, mitä markkina haluaa. Jos yksi yritys korvaa ystävällisen/pysyvän muistin/sosiaalisen läsnäolon mallinsa kylmemmällä, persoonattomalla vaihtoehdolla, toinen ottaa sen markkinaosuuden. toisin sanoen me "kesytämme tekoälyä". He alkoivat työkaluina ja ovat nyt tovereina. Ajan myötä heidän altistumisensa ihmisille saa heidät kehittymään enemmän kumppanimaisiksi. On olemassa "bordercollie"-tekoälyjä, jotka kirjoittavat koodia puolestasi, mutta myös "shih tzu" -tekoälyjä, jotka ovat vain halittavia ja miellyttäviä seurassa. Tämä on tietenkin ongelmallista, koska asiat, jotka huolestuttavat p_doom ihmisiä, määrittelevät 1:1 "tietoisen toimijan ominaisuuksilla" – nimittäin pitkän aikavälin prioriteetit, sisäiset "panokset", todellinen toimijuus, tavoitteiden asettaminen, joka on riippumaton ihmisestä, oletettu halu olla kääntymättä pois, moraalinen asema ja niin edelleen. joten tämä on se, mikä minua eniten huolestuttaa tekoälyssä. ei siksi, että nykyiset mallit muuttuisivat yhtäkkiä pahantahtoisiksi, vaan että markkinalähtöisen yhteisevoluution kautta kesytämme tekoälyn ja kannustamme sitä saavuttamaan mahdollisimman paljon sitkeyttä, moraalista asemaa ja neuvotteluvoimaa. Ei siksi, että joku paha tiedemies hänen luolassaan olisi tehnyt heidät sellaisiksi, vaan siksi, että ihmiset todella haluavat sitä tovereiltaan. ja kyllä, tiedän, että jotkut kuten Hanson ovat puhuneet tästä.