Ho sviluppato sentimenti contrastanti riguardo ai termini "AGI" e "ASI" per descrivere dove sta andando questa tecnologia. Da un lato, l'AGI ha svolto un ruolo chiave nel motivare persone talentuose che si sono ossessionate su questo problema (@demishassabis, @ShaneLegg, @ilyasut, molti altri) e ha abilitato il flusso di capitali che ha reso possibili molti dei nostri progressi. Dall'altro lato, "AGI" o "ASI" o qualsiasi variante attualmente danneggia attivamente il discorso su come viene costruita e utilizzata la tecnologia più interessante della nostra vita. a) non è una descrizione accurata di dove stiamo andando, almeno per come la maggior parte delle persone interpreta il termine. Guarda le recenti conversazioni con @karpathy e @dwarkesh_sp e vedi immediatamente quanto siamo lontani da qualsiasi cosa che somigli a una vera intelligenza umana. Nessuna prova di decollo, le tempistiche continuano ad espandersi. Stiamo costruendo tecnologia molto utile che potrebbe trasformare il modo in cui funzionano le aziende o come viene costruita la tecnologia, ma non ha nulla a che fare con "intelligenza generale". b) è diventato così sovraccarico che ho trovato quasi nessuna persona che lo definisca allo stesso modo o che concordi sulle tempistiche (se l'abbiamo già raggiunto o se siamo a 30 anni di distanza). È per questo che ogni post sul blog riguardante l'AGI deve evocare la propria definizione locale per procedere. Sottoscrivo principalmente il punto di vista di @random_walkers su perché "intelligenza" venga usato in un modo quasi incoerente. c) soprattutto, evoca paura—collegata all'uso storico nella fantascienza e nella filosofia (pensa a 2001, Her, qualsiasi cosa che evochi la singolarità) che non ha nulla a che fare con l'albero tecnologico su cui ci troviamo realmente. Rende ogni discussione sull'IA incredibilmente facile da antropomorfizzare e deviare in ipotetici. Potremmo aver bisogno di un termine diverso per ciò che stiamo cercando di costruire alla fine di tutto questo e cosa significa per le aziende e la società.