Tres posiciones políticas que creo que están muy infravaloradas dado el desarrollo de la AGI: 1. La "revolución hereditaria" de @nathancofnas -la idea de que el dominio intelectual del igualitarismo de izquierdas se basa en que las diferencias cognitivas grupales son tabú- ya es muy importante. Pero las diferencias cognitivas grupales existentes palidecen en comparación con las que surgirán entre los humanos de referencia y: - humanos que aprovechan la IA de manera más efectiva - Humanos con interfaces cerebro-ordenador - Seres humanos modificados genéticamente - Las propias IA Las diferencias cognitivas actuales ya rompen la política; Estos lo romperán mucho más. Por lo tanto, tenemos que prepararnos para un futuro en el que el igualitarismo como tesis empírica sea (aún más) obviamente falso. Todavía no tengo un resumen conciso de las implicaciones de esta posición. Pero al menos quiero un nombre para él. Curiosamente, en realidad no tenemos una buena palabra para "anti-igualitario". Hereditario es demasiado estrecho (como lo es jerárquico) y elitista tiene malas connotaciones. Mi candidato es "asimétrico". El igualitarismo trata de imponer un tipo de simetría en toda la sociedad. Pero nuestro trabajo consistirá cada vez más en diseñar sociedades en las que la ausencia de tales simetrías sea una característica, no un error. 2. Proteccionismo. El proteccionismo tiene mala reputación, porque los mercados globales son muy eficientes. Pero no son en absoluto robustos desde el punto de vista contradictorio. Si eres un país pequeño y abres tus fronteras a la moneda, los productos y las empresas de un país mucho más grande, entonces te volverás más rico a corto plazo, pero también tendrás muchas dificultades para evitar que ese otro país gane mucho poder sobre ti a largo plazo. (Como ejemplo histórico, el comercio fue a menudo un precursor importante de la expansión colonial. Véase también el excelente libro de Amy Chua, World on Fire, sobre cómo los mercados libres permiten a algunas minorías obtener un poder desproporcionado). Cuando eres lo suficientemente pobre, o el poder más grande es lo suficientemente benévolo, ¡esto puede ser un buen negocio! Pero nos dirigimos hacia un futuro en el que a) la mayoría de las personas se vuelven mucho más ricas en términos absolutos debido a la innovación impulsada por la IA, y b) las IA terminarán ejerciendo mucho poder de maneras no muy benévolas (por ejemplo, empresas automatizadas a las que se les ha dado el objetivo de maximizar las ganancias). Teniendo en cuenta esto, el proteccionismo empieza a parecer una idea mucho mejor. El hecho de que ralentice el crecimiento no es un problema, porque la sociedad ya se tambaleará por el ritmo del cambio. Y le permite tener mucho más control sobre las entidades que operan dentro de sus fronteras, por ejemplo, puede supervisar mucho más de cerca el uso de la toma de decisiones de la IA dentro de las empresas. Para decirlo de otra manera, en el futuro toda la economía humana será el "país más pequeño" que se enfrenta a incursiones de moneda, productos y empresas bajo el control de las IA (o de los humanos que han delegado el poder a las IA). En la medida en que queremos mantener el control, no deberíamos permitir que las personas basen esas IA en paraísos regulatorios y, al mismo tiempo, puedan obtener una influencia significativa sobre los países occidentales. De acuerdo, pero ¿no se superará a los países proteccionistas? No si comienzan con suficiente potencia como para disuadir a otros países de desplegar IA que buscan poder. Y en este momento, la mayor potencia manufacturera del mundo ya es bastante proteccionista. Por lo tanto, si EE.UU. también se mueve en esa dirección, parece probable que la influencia combinada de EE.UU. y China sea suficiente para evitar que alguien más "deserte". El cuello de botella va a ser la confianza entre las dos superpotencias. (Continúa en el tuit a continuación).

3. Conservadurismo nacional Todo lo anterior se basa en el objetivo de preservar los intereses humanos en un mundo de agentes mucho más poderosos. Esto es inherentemente un tipo de conservadurismo, y uno que no debemos dar por sentado. La derecha tecnológica a menudo usa el lenguaje de "ganar", pero como he observado antes, cada vez habrá una gran diferencia entre que un país gane y que sus ciudadanos ganen. En el límite, un país totalmente automatizado podría prosperar económica y políticamente sin beneficiar realmente a ninguno de los seres humanos que lo componen. El conservadurismo nacional traza una frontera alrededor de un grupo de personas y dice: "aquí están las personas cuyos intereses estamos cuidando principalmente". Como dijo Vance, Estados Unidos es un grupo de personas con una historia compartida y un futuro común. Si se pierde eso de vista, las discusiones sobre la eficiencia y la productividad terminarán convirtiéndolo en un escenario para la singularidad. (Tampoco se puede gobernar un país en beneficio de "todos los seres humanos", porque entonces se está en una relación adversa con sus propios ciudadanos, que con razón quieren que sus líderes les den prioridad). El gobierno de China tiene muchos defectos, pero acierta en esta parte. Son un Estado-nación dirigido por su propio pueblo para su propio pueblo. Como parte de eso, no solo son económicamente proteccionistas, sino también culturalmente proteccionistas, bloqueando las ideas extranjeras para que no ganen terreno en su Internet. No creo que este sea un buen enfoque para Occidente, pero creo que deberíamos tratar de desarrollar un equivalente no coercitivo: mecanismos por los cuales una nación pueda tener una conversación consigo misma sobre lo que debe valorar y hacia dónde debe ir, con ideas que se potencian cuando sus proponentes tienen "piel en el juego". De lo contrario, los influencers más elocuentes y persuasivos acabarán siendo solo IA. Todas estas ideas son de muy alto nivel, pero dan una idea de por qué creo que la política de derechas está mejor equipada para hacer frente al auge de la IA. Sin embargo, hay mucho más trabajo por hacer para desarrollarlos.

Aquí hay una charla que di sobre ideas relacionadas con las del punto 1.