Definice AGI jako "automatizace všech ekonomicky hodnotných úkolů, které může člověk dělat" je chytrá, když jste funkčně mluvčím společnosti zabývající se umělou inteligencí, která se snaží nalákat investory, ale intelektuálně je to neuspokojivé a ostudné.

Na povrchové úrovni závisí ekonomická hodnota lidských úkolů více na prostředí člověka než na jeho schopnosti získávat dovednosti. Automatizace mění ekonomickou hodnotu lidského příspěvku. Dotek lidské ruky se stane více i méně cenným.

Intuice, že lidé jsou postupně nahrazováni stroji, zatímco ekonomika zůstává, může být chybná. Automatizace umělé inteligence by dokonce mohla vést ke světu, kde bude pojem ekonomické hodnoty nahrazen něčím jiným.

Na hlubší úrovni není všeobecná inteligence nejlépe chápána jako vytváření ekonomické hodnoty, ale jako něco základnějšího: schopnost dávat světu smysl a modelovat ho ve službách kontroly. Je to schopnost dobýt vesmír. OpenAI vám to neřekne