Jeg har fått blandede følelser om «AGI» og «ASI» som begreper for å formidle hvor denne teknologien er på vei. På den ene siden har AGI spilt en nøkkelrolle i å motivere talentfulle mennesker som var besatt av dette problemet (@demishassabis, @ShaneLegg, @ilyasut, mange andre) og muliggjort kapitalflyten som gjorde mange av våre fremskritt mulige. På den annen side skader «AGI» eller «ASI» eller hvilken som helst variant i dag aktivt diskusjonen om hvordan den mest interessante teknologien i vårt liv bygges og brukes. A) Det er ikke en nøyaktig beskrivelse av hvor vi er på vei, i hvert fall ikke slik de fleste tolker begrepet. Ser du på de siste samtalene med @karpathy og @dwarkesh_sp, ser du umiddelbart hvor langt vi er fra noe som ligner ekte menneskelig intelligens. Ingen bevis på oppgang, tidslinjene fortsetter å utvides. Vi bygger svært nyttig teknologi som kan forandre hvordan bedrifter fungerer eller hvordan teknologi bygges, men som ikke har noe med «generell intelligens» å gjøre. b) det har blitt så overbelastet at jeg har funnet ut at nesten ingen to personer definerer det på samme måte eller er enige om tidslinjer (enten vi allerede har nådd det eller er 30 år unna). Det er derfor hvert blogginnlegg om AGI må finne på sin egen lokale definisjon for å gå videre. Jeg abonnerer stort sett på @random_walker sitt syn på hvorfor «intelligens» alltid brukes på en nesten usammenhengende måte. c) viktigst av alt, den vekker frykt—knyttet til historisk bruk i sci-fi og filosofi (tenk 2001, Her, alt som påkaller singulariteten) som ikke har noe med teknologitreet vi faktisk er på, å gjøre. Det gjør hver AI-diskusjon utrolig lett å antropomorfisere og ta en omvei til hypotetiske scenarioer. Vi trenger kanskje et annet begrep for det vi prøver å bygge på slutten av alt dette og hva det betyr for næringslivet og samfunnet.