Tři politické pozice, které jsou podle mého názoru silně podceňovány vzhledem k vývoji AGI: 1. "Dědičná revoluce" @nathancofnas – myšlenka, že intelektuální dominance levicového rovnostářství se opírá o to, že skupinové kognitivní rozdíly jsou tabu – je již velmi důležitá. Ale stávající skupinové kognitivní rozdíly blednou ve srovnání s těmi, které se objeví mezi výchozími lidmi a: - lidé, kteří využívají umělou inteligenci nejefektivněji - lidé s rozhraním mozek-počítač - geneticky upravení lidé - Samotné umělé inteligence Současné kognitivní rozdíly už rozbíjejí politiku; ty ji rozbijí mnohem více. Takže se musíme připravovat na budoucnost, ve které je rovnostářství jako empirická teze (ještě více) zjevně falešné. Zatím nemám stručné shrnutí důsledků tohoto postoje. Ale přinejmenším pro to chci název. Je trapné, že ve skutečnosti nemáme dobré slovo pro "antirovnostářský". Dědičnost je příliš úzká (stejně jako hierarcha) a elitářství má špatné konotace. Můj kandidát je "asymetrista". Rovnostářství se snaží prosadit určitý typ symetrie napříč celou společností. Naším úkolem však bude stále více navrhovat společnosti, kde absence takových symetrií není chybou, nýbrž vlastností. 2. Protekcionismus. Protekcionismus má špatnou pověst, protože globální trhy jsou velmi efektivní. Nejsou však nijak nepřátelsky robustní. Pokud jste malá země a otevřete své hranice měně, produktům a společnostem mnohem větší země, pak se krátkodobě stanete bohatšími, ale také budete mít extrémně těžké časy zabránit tomu, aby nad vámi ta druhá země získala v dlouhodobém horizontu velkou moc. (Jako historický příklad lze uvést, že obchod byl často důležitým předchůdcem koloniální expanze. Viz také vynikající kniha Amy Chuaové Svět v plamenech o tom, jak volný trh umožňuje některým menšinám získat nepřiměřenou moc.) Když jste dostatečně chudí nebo je větší moc dostatečně benevolentní, může to být dobrý obchod! Ale směřujeme k budoucnosti, ve které a) většina lidí se stane mnohem bohatšími v absolutních číslech díky inovacím řízeným umělou inteligencí a b) umělá inteligence skončí s velkou mocí nepříliš benevolentními způsoby (např. automatizované společnosti, které dostaly za cíl maximalizovat zisk). Vzhledem k tomu se protekcionismus začíná jevit jako mnohem lepší nápad. Skutečnost, že zpomaluje růst, není problém, protože společnost se už bude potácet z tempa změn. A umožňuje vám mít mnohem větší kontrolu nad subjekty, které působí na vašem území – můžete například mnohem podrobněji sledovat využití rozhodování AI ve firmách. Jinak řečeno, v budoucnu bude celá lidská ekonomika "menší zemí", která bude čelit nájezdům měny, produktů a společností pod kontrolou AI (nebo lidí, kteří delegovali moc na AI). Pokud si chceme udržet kontrolu, neměli bychom lidem dovolit, aby tyto umělé inteligence zakládali v regulačních rájích, zatímco stále mohou získat významný vliv na západní země. Dobře, ale nebudou protekcionistické země prostě překonány? Ne, pokud začnou s dostatečnou silou, aby odradily další země od nasazení AI, které usilují o moc. A právě teď je největší světová výrobní velmoc už dost protekcionistická. Takže pokud se USA také pohnou tímto směrem, zdá se pravděpodobné, že kombinovaný vliv USA a Číny bude dostatečný k tomu, aby zabránil komukoli dalšímu v "přeběhnutí". Úzkým hrdlem bude důvěra mezi těmito dvěma supervelmocemi. (Pokračování v tweetu níže.)