Minulla on ristiriitaiset tunteet "AGI":stä ja "ASI:sta" termineinä, jotka kuvaavat teknologian suuntaa. Toisaalta AGI on ollut keskeisessä roolissa motivoimassa lahjakkaita ihmisiä, jotka ovat olleet pakkomielteisiä tämän ongelman parissa (@demishassabis, @ShaneLegg, @ilyasut, monet muut) ja mahdollistanut pääoman virtauksen, joka mahdollisti monia edistysaskeleitamme. Toisaalta "AGI" tai "ASI" tai mikä tahansa variantti tällä hetkellä vahingoittaa aktiivisesti keskustelua siitä, miten elämämme mielenkiintoisin teknologia rakennetaan ja käytetään. a) se ei ole tarkka kuvaus siitä, mihin olemme menossa, ainakaan niin kuin useimmat ihmiset tulkitsevat termin. Katso viimeaikaisia keskusteluja @karpathy:n ja @dwarkesh_sp:n kanssa, ja näet heti, kuinka kaukana olemme kaikesta todellisesta ihmisen älykkyydestä. Ei todisteita noususta, aikataulut jatkuvat. Rakennamme erittäin hyödyllistä teknologiaa, joka voisi muuttaa yritysten toimintaa tai teknologian rakentamista, mutta jolla ei ole mitään tekemistä "yleisen älykkyyden" kanssa. b) se on tullut niin ylikuormittuneeksi, että olen huomannut, että lähes kaksi ihmistä määrittelee sitä samalla tavalla tai sopi aikatauluista (olipa se sitten jo saavuttanut sen vai 30 vuoden päässä). Siksi jokaisen AGI:n blogikirjoituksen täytyy keksiä oma paikallinen määritelmänsä edetäkseen. Kannatan enimmäkseen @random_walker:n näkemystä siitä, miksi "älykkyys" käytetään lähes epäjohdonmukaisesti aina. c) mikä tärkeintä, se herättää pelkoa – yhteydessä historialliseen käyttöön tieteiskirjallisuudessa ja filosofiassa (ajattele 2001, Her, mikä tahansa singulariteettia kutsuu), jolla ei ole mitään tekemistä sen teknologiapuun kanssa, jolla oikeasti olemme. Se tekee jokaisesta tekoälykeskustelusta uskomattoman helppoa ihmismäistää ja poiketa hypoteettisiin asioihin. Saatamme tarvita toisen termin sille, mitä yritämme rakentaa kaiken tämän lopussa ja mitä se merkitsee liike-elämälle ja yhteiskunnalle.