Am ajuns să am sentimente amestecate despre "AGI" și "ASI" ca termeni care să transmită direcția în care se îndreaptă această tehnologie. Pe de o parte, AGI a jucat un rol cheie în motivarea persoanelor talentate care s-au obsedat de această problemă (@demishassabis, @ShaneLegg, @ilyasut, multe altele) și a permis fluxul de capital care a făcut posibile multe dintre progresele noastre. Pe de altă parte, "AGI" sau "ASI" sau orice variantă afectează activ discursul despre cum este construită și folosită cea mai interesantă tehnologie a vieții noastre. A) Nu este o descriere exactă a direcției în care ne îndreptăm, cel puțin așa cum interpretează majoritatea oamenilor termenul. Uită-te la conversațiile recente cu @karpathy și @dwarkesh_sp și vezi instantaneu cât de departe suntem de orice ce seamănă cu adevărata inteligență umană. Nicio dovadă de decolare, liniile temporale continuă să se extindă. Construim tehnologie foarte utilă care ar putea transforma modul în care funcționează afacerile sau cum se construiește tehnologia, dar care nu are nicio legătură cu "inteligența generală". b) a devenit atât de suprasolicitată încât aproape nicio persoană nu o definește la fel sau nu este de acord asupra unor termene (fie că am ajuns deja la ea sau suntem la 30 de ani distanță). De aceea fiecare postare pe blog despre AGI trebuie să-și creeze propria definiție locală pentru a putea continua. Sunt în mare parte de acord cu opinia lui @random_walker despre motivul pentru care "inteligența" este folosită într-un mod aproape incoerent întotdeauna. C) Cel mai important, evocă frica — legată de utilizarea istorică în SF și filosofie (gândește-te la 2001, Her, orice invocă singularitatea) care nu are nicio legătură cu arborele tehnologic pe care ne aflăm de fapt. Face ca fiecare discuție despre AI să fie incredibil de ușor de antropomorfizat și deviat în ipoteze. Poate avem nevoie de un termen diferit pentru ceea ce încercăm să construim la finalul tuturor acestor lucruri și ce înseamnă asta pentru afaceri și societate.