Mám smíšené pocity ohledně pojmů "AGI" a "ASI" jako termínů, které vyjadřují, kam tato technologie směřuje. Na jedné straně sehrála AGI klíčovou roli v motivaci talentovaných lidí, kteří se tímto problémem zabývali (@demishassabis, @ShaneLegg @ilyasut mnozí další) a umožnila tok kapitálu, který umožnil mnoho našich pokroků. Na druhou stranu "AGI" nebo "ASI" či jakákoli jiná varianta v současnosti aktivně poškozuje diskusi o tom, jak se nejzajímavější technologie našeho života staví a používá. a) Není to přesný popis toho, kam směřujeme, alespoň podle toho, jak většina lidí tento pojem chápe. Podívejte se na nedávné rozhovory s @karpathy a @dwarkesh_sp a okamžitě uvidíte, jak daleko jsme od čehokoli, co by připomínalo skutečnou lidskou inteligenci. Žádný důkaz o vzletu, časové osy se stále rozšiřují. Vytváříme velmi užitečné technologie, které by mohly změnit fungování firem nebo technologie – ale nemá nic společného s "obecnou inteligencí". b) je to tak přetížené, že jsem zjistil, že téměř žádní dva lidé to nedefinují stejně nebo se neshodnou na časových ose (ať už jsme toho dosáhli, nebo jsme vzdáleni 30 let). Proto musí každý blogový příspěvek o AGI vymyslet vlastní místní definici, aby mohl pokračovat. Většinou se přikláním k @random_walker názoru na to, proč se "inteligence" používá téměř nesouvisle. c) Nejdůležitější je, že vyvolává strach – spojený s historickým využitím ve sci-fi a filozofii (myslete na 2001, Her, cokoli, co vyvolává singularitu), který nemá nic společného s technologickým stromem, na kterém se vlastně nacházíme. Díky tomu je každá diskuse o AI neuvěřitelně snadná k antropomorfizaci a odbočení do hypotetických situací. Možná budeme potřebovat jiný termín pro to, co se snažíme na konci všeho vybudovat a co to znamená pro byznys a společnost.