Ik heb gemengde gevoelens gekregen over "AGI" en "ASI" als termen om aan te geven waar deze technologie naartoe gaat. Aan de ene kant heeft AGI een sleutelrol gespeeld in het motiveren van getalenteerde mensen die geobsedeerd waren door dit probleem (@demishassabis, @ShaneLegg, @ilyasut, vele anderen) en heeft het de stroom van kapitaal mogelijk gemaakt die veel van onze vooruitgangen mogelijk heeft gemaakt. Aan de andere kant schaadt "AGI" of "ASI" of enige variant momenteel actief het discours over hoe de meest interessante technologie van onze tijd wordt gebouwd en gebruikt. a) het is geen nauwkeurige beschrijving van waar we naartoe gaan, althans zoals de meeste mensen de term interpreteren. Kijk naar de recente gesprekken met @karpathy en @dwarkesh_sp en je ziet onmiddellijk hoe ver we verwijderd zijn van iets dat lijkt op echte menselijke intelligentie. Geen bewijs van een doorbraak, tijdlijnen blijven zich uitbreiden. We bouwen zeer nuttige technologie die kan transformeren hoe bedrijven werken of hoe technologie wordt gebouwd, maar heeft niets te maken met "algemene intelligentie". b) het is zo overbelast geraakt dat ik bijna niemand heb gevonden die het op dezelfde manier definieert of het eens is over tijdlijnen (of we het al hebben bereikt of 30 jaar verwijderd zijn). Daarom moet elke blogpost over AGI zijn eigen lokale definitie oproepen om verder te gaan. Ik abonneer me meestal op de visie van @random_walker over waarom "intelligentie" altijd op een bijna onsamenhangende manier wordt gebruikt. c) het belangrijkste is dat het angst oproept—verbonden met historisch gebruik in sci-fi en filosofie (denk aan 2001, Her, alles wat de singulariteit oproept) dat niets te maken heeft met de technologie waar we daadwerkelijk op zitten. Het maakt elke AI-discussie ongelooflijk gemakkelijk te anthropomorfiseren en af te dwalen naar hypothetische situaties. We hebben misschien een andere term nodig voor wat we aan het bouwen zijn aan het einde van dit alles en wat het betekent voor bedrijven en de samenleving.