Tre posizioni politiche che penso siano gravemente sottovalutate data l'evoluzione dell'AGI: 1. La "rivoluzione ereditaria" di @nathancofnas - l'idea che il dominio intellettuale dell'egalitarismo di sinistra si basi sul fatto che le differenze cognitive di gruppo siano un tabù - è già molto importante. Ma le differenze cognitive di gruppo esistenti sono insignificanti rispetto a quelle che emergeranno tra gli esseri umani di base e: - esseri umani che sfruttano l'IA in modo più efficace - esseri umani con interfacce cervello-computer - esseri umani geneticamente modificati - IA stesse Le attuali differenze cognitive già rompono la politica; queste la romperanno molto di più. Quindi dobbiamo prepararci a un futuro in cui l'egalitarismo come tesi empirica è (ancora di più) ovviamente falso. Non ho ancora un riassunto conciso delle implicazioni di questa posizione. Ma almeno voglio un nome per essa. Sfortunatamente, non abbiamo effettivamente una buona parola per "anti-egalitario". Ereditarista è troppo ristretto (così come gerarchista) e elitista ha cattive connotazioni. Il mio candidato è "asimmetrista". L'egalitarismo cerca di imporre un tipo di simmetria su tutta la società. Ma il nostro compito sarà sempre più quello di progettare società in cui l'assenza di tali simmetrie è una caratteristica e non un difetto. 2. Protezionismo. Il protezionismo ha una cattiva reputazione, perché i mercati globali sono molto efficienti. Ma non sono affatto robusti in modo avversariale. Se sei un piccolo paese e apri i tuoi confini alla valuta, ai prodotti e alle aziende di un paese molto più grande, allora diventerai più ricco a breve termine ma avrai anche un'estrema difficoltà a prevenire che quell'altro paese acquisisca molto potere su di te a lungo termine. (Come esempio storico, il commercio è stato spesso un importante precursore dell'espansione coloniale. Vedi anche l'eccellente libro di Amy Chua "World on Fire", su come i mercati liberi consentano ad alcune minoranze di guadagnare un potere sproporzionato.) Quando sei abbastanza povero, o il potere più grande è abbastanza benevolo, questo potrebbe essere un buon affare! Ma ci stiamo dirigendo verso un futuro in cui a) la maggior parte delle persone diventa molto più ricca in termini assoluti grazie all'innovazione guidata dall'IA, e b) le IA finiranno per esercitare molto potere in modi non molto benevoli (ad es. aziende automatizzate che hanno ricevuto l'obiettivo di massimizzare i profitti). Detto questo, il protezionismo inizia a sembrare un'idea molto migliore. Il fatto che rallenti la crescita non è un problema, perché la società sarà già in difficoltà a causa del ritmo del cambiamento. E ti consente di avere molto più controllo sulle entità che operano all'interno dei tuoi confini - ad es. puoi monitorare l'uso della decisione dell'IA all'interno delle aziende in modo molto più ravvicinato. In altre parole, in futuro l'intera economia umana sarà il "piccolo paese" che affronta incursioni da parte di valuta, prodotti e aziende sotto il controllo delle IA (o di esseri umani che hanno delegato potere alle IA). Nella misura in cui vogliamo mantenere il controllo, non dovremmo permettere alle persone di basare quelle IA in paradisi normativi mentre possono comunque guadagnare un'influenza significativa sui paesi occidentali. Va bene, ma i paesi protezionisti non verranno semplicemente superati? Non se partono con abbastanza potere per dissuadere altri paesi dal dispiegare IA orientate al potere. E in questo momento, la maggiore potenza manifatturiera del mondo è già abbastanza protezionista. Quindi se anche gli Stati Uniti si muovono in quella direzione, sembra probabile che l'influenza combinata degli Stati Uniti e della Cina sarà sufficiente per impedire a chiunque altro di "difettare". Il collo di bottiglia sarà la fiducia tra le due superpotenze. (Continua nel tweet qui sotto.)

3. Conservatorismo nazionale Tutto quanto sopra si basa sull'obiettivo di preservare gli interessi umani in un mondo di agenti molto più potenti. Questo è intrinsecamente una sorta di conservatorismo, e uno che non dovremmo dare per scontato. La destra tecnologica spesso usa il linguaggio della "vittoria", ma come ho osservato in precedenza, ci sarà sempre una grande differenza tra un *paese* che vince e i suoi *cittadini* che vincono. In ultima analisi, un paese completamente automatizzato potrebbe prosperare economicamente e politicamente senza effettivamente beneficiare nessuno degli esseri umani al suo interno. Il conservatorismo nazionale traccia un confine attorno a un gruppo di persone e dice "ecco le persone di cui ci stiamo principalmente prendendo cura". Come ha detto Vance, l'America è un gruppo di persone con una storia condivisa e un futuro comune. Se perdiamo di vista questo, le argomentazioni sull'efficienza e la produttività finiranno per trasformarlo in un terreno di prova per la singolarità. (Non puoi nemmeno gestire un paese per il beneficio di "tutti gli esseri umani", perché in tal caso saresti in una relazione avversariale con i tuoi stessi cittadini, che giustamente vogliono che i loro leader li mettano al primo posto.) Il governo cinese ha molti difetti, ma in questo aspetto ha ragione. Sono uno stato-nazione gestito dal proprio popolo per il proprio popolo. Come parte di ciò, non sono solo protezionisti dal punto di vista economico, ma anche protezionisti dal punto di vista culturale - bloccando le idee straniere dall'acquisire terreno su Internet. Non penso che questo sia un buon approccio per l'Occidente, ma penso che dovremmo cercare di sviluppare un equivalente non coercitivo: meccanismi attraverso i quali una nazione può avere una conversazione con se stessa su cosa dovrebbe valorizzare e dove dovrebbe andare, con idee potenziate quando i loro sostenitori hanno "interessi in gioco". Altrimenti, i più eloquenti e persuasivi influencer finiranno per essere solo IA. Tutte queste idee sono molto astratte, ma forniscono un'idea di perché penso che la politica di destra sia la meglio attrezzata per affrontare l'ascesa dell'IA. C'è molto altro lavoro da fare per svilupparle, però.

Ecco un intervento che ho tenuto su idee correlate a quelle nel punto 1.