Tři politické pozice, které jsou podle mého názoru silně podceňovány vzhledem k vývoji AGI: 1. "Dědičná revoluce" @nathancofnas – myšlenka, že intelektuální dominance levicového rovnostářství se opírá o to, že skupinové kognitivní rozdíly jsou tabu – je již velmi důležitá. Ale stávající skupinové kognitivní rozdíly blednou ve srovnání s těmi, které se objeví mezi výchozími lidmi a: - lidé, kteří využívají umělou inteligenci nejefektivněji - lidé s rozhraním mozek-počítač - geneticky upravení lidé - Samotné umělé inteligence Současné kognitivní rozdíly už rozbíjejí politiku; ty ji rozbijí mnohem více. Takže se musíme připravovat na budoucnost, ve které je rovnostářství jako empirická teze (ještě více) zjevně falešné. Zatím nemám stručné shrnutí důsledků tohoto postoje. Ale přinejmenším pro to chci název. Je trapné, že ve skutečnosti nemáme dobré slovo pro "antirovnostářský". Dědičnost je příliš úzká (stejně jako hierarcha) a elitářství má špatné konotace. Můj kandidát je "asymetrista". Rovnostářství se snaží prosadit určitý typ symetrie napříč celou společností. Naším úkolem však bude stále více navrhovat společnosti, kde absence takových symetrií není chybou, nýbrž vlastností. 2. Protekcionismus. Protekcionismus má špatnou pověst, protože globální trhy jsou velmi efektivní. Nejsou však nijak nepřátelsky robustní. Pokud jste malá země a otevřete své hranice měně, produktům a společnostem mnohem větší země, pak se krátkodobě stanete bohatšími, ale také budete mít extrémně těžké časy zabránit tomu, aby nad vámi ta druhá země získala v dlouhodobém horizontu velkou moc. (Jako historický příklad lze uvést, že obchod byl často důležitým předchůdcem koloniální expanze. Viz také vynikající kniha Amy Chuaové Svět v plamenech o tom, jak volný trh umožňuje některým menšinám získat nepřiměřenou moc.) Když jste dostatečně chudí nebo je větší moc dostatečně benevolentní, může to být dobrý obchod! Ale směřujeme k budoucnosti, ve které a) většina lidí se stane mnohem bohatšími v absolutních číslech díky inovacím řízeným umělou inteligencí a b) umělá inteligence skončí s velkou mocí nepříliš benevolentními způsoby (např. automatizované společnosti, které dostaly za cíl maximalizovat zisk). Vzhledem k tomu se protekcionismus začíná jevit jako mnohem lepší nápad. Skutečnost, že zpomaluje růst, není problém, protože společnost se už bude potácet z tempa změn. A umožňuje vám mít mnohem větší kontrolu nad subjekty, které působí na vašem území – můžete například mnohem podrobněji sledovat využití rozhodování AI ve firmách. Jinak řečeno, v budoucnu bude celá lidská ekonomika "menší zemí", která bude čelit nájezdům měny, produktů a společností pod kontrolou AI (nebo lidí, kteří delegovali moc na AI). Pokud si chceme udržet kontrolu, neměli bychom lidem dovolit, aby tyto umělé inteligence zakládali v regulačních rájích, zatímco stále mohou získat významný vliv na západní země. Dobře, ale nebudou protekcionistické země prostě překonány? Ne, pokud začnou s dostatečnou silou, aby odradily další země od nasazení AI, které usilují o moc. A právě teď je největší světová výrobní velmoc už dost protekcionistická. Takže pokud se USA také pohnou tímto směrem, zdá se pravděpodobné, že kombinovaný vliv USA a Číny bude dostatečný k tomu, aby zabránil komukoli dalšímu v "přeběhnutí". Úzkým hrdlem bude důvěra mezi těmito dvěma supervelmocemi. (Pokračování v tweetu níže.)

3. Národní konzervatismus Vše výše uvedené je založeno na cíli zachovat lidské zájmy ve světě mnohem mocnějších agentů. To je ve své podstatě jistý druh konzervatismu, který bychom neměli považovat za samozřejmost. Technologická pravice často používá jazyk "vítězství", ale jak jsem si všiml dříve, bude stále větší rozdíl mezi vítězstvím "země" a vítězstvím jejích "občanů". V tomto případě by plně automatizovaná země mohla ekonomicky a politicky vzkvétat, aniž by z toho měla prospěch kdokoli z lidí v ní. Národní konzervatismus vymezuje hranici kolem skupiny lidí a říká: "Zde jsou lidé, o jejichž zájmy se primárně staráme". Jak řekl Vance, Amerika je skupina lidí se společnou historií a společnou budoucností. Ztratíte-li to ze zřetele, argumenty o efektivitě a produktivitě skončí tím, že se z toho místo toho stane jeviště pro singularitu. (Stejně tak nemůžete řídit zemi ve prospěch "všech lidí", protože pak jste v nepřátelském vztahu se svými vlastními občany, kteří oprávněně chtějí, aby je jejich vůdci upřednostňovali.) Čínská vláda má mnoho nedostatků, ale tuto část chápe správně. Jsou národním státem řízeným jejich vlastními lidmi pro jejich vlastní lidi. V rámci toho nejsou jen ekonomicky protekcionističtí, ale také kulturně protekcionističtí – blokují cizí myšlenky, aby se prosadily na jejich internetu. Nemyslím si, že je to dobrý přístup pro Západ, ale myslím, že bychom se měli pokusit vyvinout nedonucovací ekvivalent: mechanismy, pomocí kterých může národ vést rozhovor sám se sebou o tom, čeho by si měl vážit a kam by měl směřovat, s myšlenkami povyšujícími váhami, když jejich zastánci mají "kůži ve hře". V opačném případě ti nejvýmluvnější a nejpřesvědčivější influenceři skončí jako pouhé umělé inteligence. Všechny tyto myšlenky jsou na velmi vysoké úrovni, ale dávají nástin toho, proč si myslím, že pravicová politika je nejlépe vybavena k tomu, aby se vypořádala se vzestupem umělé inteligence. Je však třeba udělat ještě hodně práce, abychom je zhmotnili.

Zde je přednáška, kterou jsem měl o myšlenkách souvisejících s těmi v bodě 1.