Tre politiske posisjoner som jeg mener er sterkt undervurdert gitt utviklingen av AGI: 1. @nathancofnas' «arvelige revolusjon» – ideen om at den intellektuelle dominansen til venstreorientert egalitarisme er avhengig av at gruppekognitive forskjeller er tabu – er allerede veldig viktig. Men eksisterende gruppekognitive forskjeller blekner i forhold til de som vil dukke opp mellom baseline-mennesker og: - mennesker som utnytter AI mest effektivt - mennesker med hjerne-datamaskin-grensesnitt - genmodifiserte mennesker - AI-er selv Nåværende kognitive forskjeller bryter allerede politikk; disse vil ødelegge det langt mer. Så vi må forberede oss på en fremtid der egalitarisme som en empirisk tese er (enda mer) åpenbart feil. Jeg har ennå ikke en kortfattet oppsummering av implikasjonene av denne posisjonen. Men i det minste vil jeg ha et navn på det. Pinlig nok har vi faktisk ikke et godt ord for «anti-egalitær». Arvelig er for smalt (det samme er hierarkisk) og elitistisk har dårlige konnotasjoner. Min kandidat er «asymmetrist». Egalitarisme prøver å håndheve en type symmetri på tvers av hele samfunnet. Men vår jobb vil i økende grad være å designe samfunn der fraværet av slike symmetrier er en funksjon, ikke en feil. 2. Proteksjonisme. Proteksjonisme får et dårlig rykte, fordi globale markeder er veldig effektive. Men de er i stor grad ikke kontradiktorisk robuste. Hvis du er et lite land og du åpner grensene dine for valutaen, produktene og selskapene i et mye større land, vil du bli kortsiktig rikere, men også ha ekstremt vanskelig for å forhindre at det andre landet får mye makt over deg på lang sikt. (Som et historisk eksempel var handel ofte en viktig forløper for kolonial ekspansjon. Se også Amy Chuas utmerkede bok World on Fire, om hvordan frie markeder gjør det mulig for noen minoriteter å få uforholdsmessig makt.) Når du er fattig nok, eller den større makten er velvillig nok, kan dette godt være en god avtale! Men vi er på vei mot en fremtid der a) de fleste blir langt rikere i absolutte termer på grunn av AI-drevet innovasjon, og b) AI-er vil ende opp med å utøve mye makt på ikke veldig velvillige måter (f.eks. automatiserte selskaper som har fått målet om profittmaksimering). Gitt dette begynner proteksjonisme å se ut som en mye bedre idé. Det faktum at det bremser veksten er ikke noe problem, fordi samfunnet allerede vil vakle av endringstakten. Og det lar deg ha mye mer kontroll over enhetene som opererer innenfor grensene dine - for eksempel kan du overvåke bruken av AI-beslutningstaking i selskaper mye nærmere. For å si det på en annen måte, i fremtiden vil hele den menneskelige økonomien være det "mindre landet" som står overfor inntrengninger av valuta, produkter og selskaper under kontroll av AI-er (eller mennesker som har delegert makt til AI-er). I den grad vi ønsker å beholde kontrollen, bør vi ikke la folk basere disse AI-ene i regulatoriske tilfluktssteder mens vi fortsatt kan få betydelig innflytelse over vestlige land. Ok, men vil ikke proteksjonistiske land bare bli utkonkurrert? Ikke hvis de starter med nok kraft til å avskrekke andre land fra å distribuere kraftsøkende AI-er. Og akkurat nå er verdens største produksjonsmakt allerede ganske proteksjonistisk. Så hvis USA beveger seg i den retningen også, virker det sannsynlig at den kombinerte innflytelsen fra USA og Kina vil være tilstrekkelig til å forhindre at noen andre "hopper av". Flaskehalsen kommer til å være tillit mellom de to supermaktene. (Fortsetter i tweet nedenfor.)

3. Nasjonal konservatisme Alt det ovennevnte er basert på målet om å bevare menneskelige interesser i en verden med mye mektigere agenter. Dette er iboende en slags konservatisme, og en som vi ikke bør ta for gitt. Teknologihøyresiden bruker ofte språket "å vinne", men som jeg har observert tidligere vil det i økende grad være en stor forskjell mellom et *land* som vinner og dets *innbyggere* som vinner. På grensen kan et helautomatisert land blomstre økonomisk og politisk uten å faktisk gagne noen av menneskene i det. Nasjonalkonservatismen trekker en grense rundt en gruppe mennesker og sier «her er de menneskene hvis interesser vi først og fremst ser etter». Som Vance sa det, er Amerika en gruppe mennesker med en felles historie og en felles fremtid. Mister du det av syne, vil argumenter om effektivitet og produktivitet i stedet ende opp med å gjøre det til en iscenesettelsesplass for singulariteten. (Du kan heller ikke styre et land til fordel for "alle mennesker", for da er du i et fiendtlig forhold til dine egne borgere, som med rette vil at deres ledere skal prioritere dem.) Kinas regjering har mange feil, men den får denne delen riktig. De er en nasjonalstat styrt av sitt eget folk for sitt eget folk. Som en del av det er de ikke bare økonomisk proteksjonistiske, men også kulturelt proteksjonistiske - og blokkerer utenlandske ideer fra å få gjennomslag på internett deres. Jeg tror ikke dette er en god tilnærming for Vesten, men jeg tror vi bør prøve å utvikle en ikke-tvangsmessig ekvivalent: mekanismer der en nasjon kan ha en samtale med seg selv om hva den bør verdsette og hvor den bør gå, med ideer oppvektet når deres talsmenn har "hud i spillet". Ellers vil de mest veltalende og overbevisende influencerne ende opp med å bare være AI-er. Alle disse ideene er på veldig høyt nivå, men de gir en oversikt over hvorfor jeg tror høyreorientert politikk er best rustet til å håndtere fremveksten av AI. Det er imidlertid mye mer arbeid å gjøre for å konkretisere dem.

Her er et foredrag jeg holdt om ideer knyttet til de i punkt 1.