Hay un argumento genuino de bienes públicos para la AGI cuando la tengamos, que dado que solo existirá porque se ha entrenado con todos nuestros datos, los ingresos de ella deben redistribuirse de alguna manera equitativa. La idea de que las grandes tecnológicas deberían poder cosechar los medios de vida de todos y luego huir con todo el dinero, dejando a todos sin trabajo, es inconcebiblemente poco ética. Incluso desde una perspectiva estrictamente capitalista e innovadora, simplemente no es correcto. Tienen tanto dinero que el robo de propiedad intelectual ni siquiera importa, pueden simplemente pagar la multa. Hay un enorme potencial en la AGI, tanto que se podría argumentar que la ley de propiedad intelectual ni siquiera debería existir... Pero ese es otro asunto. El problema es realmente uno de equidad/distribución, en lo que los humanos históricamente han sido absolutamente terribles, y sobre lo que se han librado muchas guerras. Los modelos no pueden ser autoalimentados sin los datos colectivos de los expertos que han elaborado los resultados de sus profesiones durante décadas. Incluso cuando tengamos modelos que puedan aprender continuamente y recopilar datos por sí mismos, el argumento sigue aplicándose. 'Pero por' la etapa de pre-entrenamiento, estos modelos no existirían. La Renta Básica Universal no debería ser solo unas migajas arrojadas a los plebeyos, va a tener que ser realmente sustancial para evitar que se rebelen, en mi opinión. Espero que este sea uno de los temas más importantes en el próximo ciclo político en Occidente.

Los humanos del futuro serán creadores de tendencias y asignadores de capital. Esa será la extensión de nuestro trabajo. Puro, sin adulterar, dirigido a objetivos 'hey AI, haz esto' y lo hará. Básicamente como un videojuego. Crearás tu propia realidad de maneras cada vez más extrañas y salvajes. Esto comenzará en el mundo digital, pero eventualmente se expandirá al mundo físico (en la medida en que las regulaciones lo permitan). El Amazon del futuro es simplemente un usuario que le dice a una IA 'Oye, necesito 70 humanoides para construir un castillo en esta tierra que poseo, ve y hazlo'. ABS (Amazon Bot Services... nombre ficticio) luego despliega los bots para que lo hagan (lee sobre el Proyecto Prometeo, en el que Jeff Bezos está trabajando - una vez más está 20 años por delante de todos los demás). Luego, cuando esté terminado, lo mirarás y dirás 'Hmm, pinta un retrato de mí con una corona en el exterior de las paredes'. Entonces también harán eso. Seguirás iterando hasta que estés satisfecho con lo que ha hecho. Será tan barato que será prácticamente gratis. Las leyes de construcción, el cumplimiento - toda esa tontería - no importará porque las IA tendrán lo que pronto llamaremos 'inteligencia verificable' - prueba de que lo que han hecho cumple con una especificación (constitución / leyes / conjunto de reglas que nosotros o ellos definamos). Construcciones perfectas cada vez. Si lo estropean es porque la especificación estaba equivocada. Por supuesto, las IA también serán mejores para establecer objetivos para nosotros, y para todas las cosas funcionales, eso es exactamente lo que sucederá - establecerán los objetivos y luego también los cumplirán, revisando ocasionalmente con nosotros para obtener aprobación (si así lo deseamos). Pero para el entretenimiento, el ocio, el 'trabajo' del futuro... Prácticamente no habrá límites. Por muy extraño que pienses que se pondrán las cosas, te prometo que será 100 veces más extraño. Inmortales viviendo en Marte, superhumanos genéticamente modificados viviendo en el fondo del océano, sentidos completamente nuevos... Que vivas en tiempos interesantes.

Esto es contraintuitivo, pero todos deberíamos realmente esperar y rezar para que tengamos un escenario de despegue rápido para la AGI, no un despegue lento. Un despegue rápido actuará como una función de forzado para un cambio sistémico en toda la economía, el sistema financiero, la educación, la sociedad y las instituciones en general. Un despegue lento simplemente irá paralizando lentamente los medios de vida de todos sin ningún cambio a la vista, porque no habrá suficientes personas que se sientan impactadas lo suficientemente rápido para que se produzca un cambio.