Trei poziții politice care cred că sunt grav subestimate având în vedere dezvoltarea AGI: 1. "Revoluția ereditară" a @nathancofnas - ideea că dominația intelectuală a egalitarismului de stânga se bazează pe faptul că diferențele cognitive de grup sunt tabu - este deja foarte importantă. Dar diferențele cognitive de grup existente pălesc în comparație cu cele care vor apărea între oamenii de bază și: - oameni care folosesc AI cel mai eficient - oameni cu interfețe creier-computer - oameni modificați genetic - IA în sine Diferențele cognitive actuale sparg deja politica; acestea o vor rupe mult mai mult. Așa că trebuie să ne pregătim pentru un viitor în care egalitarismul ca teză empirică este (și mai mult) evident fals. Nu am încă un rezumat concis al implicațiilor acestei poziții. Dar cel puțin vreau un nume pentru el. În mod ciudat, nu avem de fapt un cuvânt bun pentru "anti-egalitarist". Hereditarian este prea îngust (la fel ca și ierarhistul) și elitist are conotații proaste. Candidatul meu este "asimetrist". Egalitarismul încearcă să impună un tip de simetrie în întreaga societate. Dar treaba noastră va fi din ce în ce mai mult să proiectăm societăți în care absența unor astfel de simetrii este o caracteristică, nu o eroare. 2. Protecționismul. Protecționismul are o reputație proastă, deoarece piețele globale sunt foarte eficiente. Dar nu sunt foarte puternici din punct de vedere adversar. Dacă ești o țară mică și îți deschizi granițele pentru moneda, produsele și companiile unei țări mult mai mari, atunci vei deveni mai bogat pe termen scurt, dar îți va fi extrem de greu să împiedici cealaltă țară să câștige multă putere asupra ta pe termen lung. (Ca exemplu istoric, comerțul a fost adesea un precursor important al expansiunii coloniale. Vezi și excelenta carte a lui Amy Chua, World on Fire, despre modul în care piețele libere permit unor minorități să câștige o putere disproporționată.) Când ești suficient de sărac sau puterea mai mare este suficient de binevoitoare, aceasta poate fi o afacere bună! Dar ne îndreptăm spre un viitor în care a) majoritatea oamenilor devin mult mai bogați în termeni absoluți datorită inovației bazate pe inteligență artificială și b) inteligența artificială vor ajunge să exercite multă putere în moduri nu foarte binevoitoare (de exemplu, companiile automatizate cărora li s-a dat obiectivul de maximizare a profitului). Având în vedere acest lucru, protecționismul începe să pară o idee mult mai bună. Faptul că încetinește creșterea nu este o problemă, deoarece societatea va fi deja afectată de ritmul schimbării. Și vă permite să aveți mult mai mult control asupra entităților care operează în interiorul granițelor dvs. - de exemplu, puteți monitoriza mult mai îndeaproape utilizarea procesului decizional AI în cadrul companiilor. Altfel spus, în viitor întreaga economie umană va fi "țara mai mică" care se va confrunta cu incursiuni ale monedelor, produselor și companiilor aflate sub controlul IA (sau oameni care au delegat puterea AI). În măsura în care vrem să păstrăm controlul, nu ar trebui să lăsăm oamenii să bazeze aceste AI-uri în paradisuri de reglementare, putând în același timp să câștige o influență semnificativă asupra țărilor occidentale. Bine, dar țările protecționiste nu vor fi pur și simplu depășite? Nu dacă încep cu suficientă putere pentru a descuraja alte țări să implementeze IA în căutare de putere. Și în acest moment, cea mai mare putere de producție a lumii este deja destul de protecționistă. Deci, dacă SUA se îndreaptă și în această direcție, pare probabil că influența combinată a SUA și a Chinei va fi suficientă pentru a împiedica pe oricine altcineva să "dezerteze". Blocajul va fi încrederea dintre cele două superputeri. (Continuarea în tweet mai jos.)

3. Conservatorismul național Toate cele de mai sus se bazează pe scopul de a păstra interesele umane într-o lume cu agenți mult mai puternici. Acesta este în mod inerent un fel de conservatorism și unul pe care nu ar trebui să-l luăm de la sine înțeles. Dreapta tehnologică folosește adesea limbajul "câștigător", dar, așa cum am observat înainte, va exista o diferență din ce în ce mai mare între o țară care câștigă și cetățenii săi. În limită, o țară complet automatizată ar putea înflori economic și politic fără a aduce beneficii niciunuia dintre oamenii din ea. Conservatorismul național trasează o graniță în jurul unui grup de oameni și spune "iată oamenii ale căror interese le urmărim în primul rând". După cum a spus Vance, America este un grup de oameni cu o istorie comună și un viitor comun. Dacă pierdeți din vedere acest lucru, argumentele despre eficiență și productivitate vor sfârși prin a-l transforma într-un teren de pregătire pentru singularitate. (Nici nu poți conduce o țară în beneficiul "tuturor oamenilor", pentru că atunci ești într-o relație conflictuală cu propriii tăi cetățeni, care vor pe bună dreptate ca liderii lor să le acorde prioritate.) Guvernul chinez are multe defecte, dar reușește această parte. Sunt un stat-națiune condus de propriul lor popor pentru propriul popor. Ca parte a acestui lucru, ei nu sunt doar protecționiști din punct de vedere economic, ci și din punct de vedere cultural - împiedicând ideile străine să câștige teren pe internetul lor. Nu cred că aceasta este o abordare bună pentru Occident, dar cred că ar trebui să încercăm să dezvoltăm un echivalent non-coercitiv: mecanisme prin care o națiune poate avea o conversație cu ea însăși despre ceea ce ar trebui să prețuiască și încotro ar trebui să meargă, cu idei ponderate atunci când susținătorii lor au "pielea în joc". În caz contrar, cei mai elocvenți și convingători influenceri vor ajunge să fie doar AI. Toate aceste idei sunt de nivel foarte înalt, dar oferă o schiță a motivului pentru care cred că politica de dreapta este cea mai bine echipată pentru a face față creșterii AI. Totuși, mai este mult de lucru pentru a le dezvolta.

Iată o prezentare pe care am ținut-o despre idei legate de cele de la punctul 1.