Existe um argumento genuíno de bens públicos para a AGI quando a recebemos, de que, dado que ela só existirá porque se treinou com todos os nossos dados, a receita dela deve ser redistribuída de forma justa. A ideia de que as grandes empresas de tecnologia devam simplesmente aproveitar o sustento de todos e depois fugir com todo o dinheiro, deixando todos desempregados, é incrivelmente antiética. Mesmo do ponto de vista capitalista e da inovação estrita, isso simplesmente não é certo. Eles têm tanto dinheiro que roubo de propriedade intelectual nem importa, eles podem simplesmente pagar a multa. Há um potencial enorme de AGI, tanto que a lei de propriedade intelectual discutível nem deveria existir... Mas isso é outra questão. O problema é realmente de equidade/distribuição, que historicamente os humanos têm sido absolutamente péssimos e pelos quais muitas guerras foram travadas. Os modelos não podem ser financiados sem os dados coletivos dos especialistas que elaboraram os resultados de suas profissões ao longo de décadas. Mesmo quando temos modelos que realmente podem aprender continuamente e coletar dados por si mesmos, o argumento ainda se aplica. 'Se não fosse' na fase pré-treinamento, esses modelos não existiriam. A RBU também não deveria ser apenas migalhas jogadas contra a plebe, vai ter que ser realmente substancial para impedir que eles se revoltem, na minha opinião. Espero que esse seja um dos maiores argumentos de discussão em todo o Ocidente no próximo ciclo político.

Os humanos do futuro serão formadores de gostos e alocadores de capital. Esse será o alcance do nosso trabalho. Puro, sem adulterar e direcionado a objetivos 'ei, IA, faça isso' e ele vai conseguir. Basicamente, como um videogame. Você vai criar sua própria realidade de maneiras cada vez mais estranhas e selvagens. Isso começará no mundo digital, mas eventualmente se expandirá para o mundo físico (na medida em que as regulamentações permitirem). A Amazona do futuro é simplesmente um usuário que manda uma IA pedir: 'Ei, preciso de 70 humanoides para construir um castelo nessa terra que possuo, vai lá e faça'. ABS (Amazon Bot Services... nome fictício) então implanta os bots para você fazer isso (leia sobre o Projeto Prometheus, no qual Jeff Bezos está trabalhando – ele está novamente 20 anos à frente de todos os outros). Depois, quando terminar, você olha e diz 'Hmm, pinta um retrato meu com uma coroa do lado de fora das paredes'. Então eles também vão fazer isso. Você vai continuar iterando até ficar satisfeito com o que fez. Vai ser tão barato que basicamente é de graça. Leis de construção, conformidade – toda essa besteira – não vai importar porque as IAs terão o que logo chamaremos de 'inteligência verificável' – prova de que o que fizeram está em conformidade com uma especificação (constituição / leis / conjunto de regras que nós ou eles definimos). Construções perfeitas toda vez. Se eles estragarem tudo, é porque a especificação estava errada. Claro, as IAs também serão melhores em criar metas para nós, e para todas as coisas funcionais, é exatamente isso que vai acontecer – elas vão definir as metas e depois cumpri-las, verificando ocasionalmente a aprovação conosco (se quisermos). Mas para entretenimento, lazer, 'trabalho' do futuro... Praticamente não haverá limites. Por mais estranho que você ache que as coisas vão ficar, prometo que vai ser 100 vezes mais estranho. Imortais vivendo em Marte, super-humanos geneticamente modificados vivendo no fundo do oceano, sentidos totalmente novos... Que você viva tempos interessantes.

Isso é contraintuitivo, mas todos nós deveríamos realmente torcer e rezar para que tenhamos um cenário de decolagem rápida para a AGI, não uma decolagem lenta. Uma decolagem rápida atuará como uma função de força para mudanças sistêmicas na economia, sistema financeiro, educação, sociedade e instituições em geral. Uma decolagem lenta só vai paralisar lentamente os meios de subsistência de todos sem mudança no horizonte, porque não há pessoas suficientes que se sintam impactadas rápido o suficiente para que a mudança aconteça.