Definisjonen av AGI som "automatisering av alle økonomisk verdifulle oppgaver som et menneske kan gjøre" er smart når du funksjonelt er en talsperson for et AI-selskap som prøver å ve investorer, men intellektuelt er det utilfredsstillende og skammelig.

På overflatenivå avhenger den økonomiske verdien av menneskelige oppgaver mer av menneskets miljø enn av menneskets evne til å tilegne seg ferdigheter. Automatisering endrer den økonomiske verdien av menneskelig bidrag. Berøringen av den menneskelige hånden vil bli både mer og mindre verdifull.

Intuisjonen om at mennesker gradvis blir erstattet av maskiner mens økonomien består, kan være feil. AI-automatisering kan til og med føre til en verden der forestillingen om økonomisk verdi blir erstattet av noe annet.

På et dypere nivå forstås ikke generell intelligens best som økonomisk verdiskaping, men som noe mer grunnleggende: evnen til å forstå verden og modellere den, i kontrollens tjeneste. Det er evnen til å erobre universet. OpenAI vil ikke fortelle deg det