Há um verdadeiro argumento de bens públicos para a AGI quando a tivermos, que dado que ela só existirá porque se treinou com todos os nossos dados, a receita dela deve ser redistribuída de alguma forma equitativa. A ideia de que as grandes empresas de tecnologia devem simplesmente ser capazes de colher os meios de subsistência de todos e depois fugir com todo o dinheiro, deixando todos desempregados, é incompreensivelmente antiética. Mesmo de uma perspectiva estritamente capitalista e de inovação, simplesmente não é certo. Eles têm tanto dinheiro que o roubo de propriedade intelectual nem importa, eles podem simplesmente pagar a multa. Há um potencial estupendo na AGI, tanto que a lei de propriedade intelectual discutivelmente não deveria nem existir... Mas isso é outra questão. O problema é realmente um de equidade/distribuição, que os humanos historicamente têm sido absolutamente terríveis, e sobre o qual muitas guerras foram travadas. Os modelos não podem ser iniciados sem os dados coletivos dos especialistas que elaboraram os resultados de suas profissões ao longo de décadas. Mesmo quando tivermos modelos que podem realmente aprender continuamente e coletar dados por conta própria, o argumento ainda se aplica. 'Mas para' a fase de pré-treinamento, esses modelos não existiriam. O Renda Básica Universal não deve ser apenas alguns restos jogados aos plebeus, vai ter que ser seriamente substancial para impedi-los de se revoltarem, na minha opinião. Espero que isso seja um dos maiores pontos de discussão no Ocidente no próximo ciclo político.

Os humanos do futuro serão criadores de tendências e alocadores de capital. Esse será o limite do nosso trabalho. Puro, não adulterado, dirigido por objetivos 'ei AI, faça isso' e ela fará. Basicamente como um videojogo. Você criará sua própria realidade de maneiras cada vez mais estranhas e selvagens. Isso começará no mundo digital, mas eventualmente se expandirá para o mundo físico (na medida em que as regulamentações permitirem). A Amazon do futuro é simplesmente um usuário pedindo a uma AI 'Ei, preciso de 70 humanoides para me construir um castelo nesta terra que possuo, vá fazer isso'. ABS (Amazon Bot Services... nome fictício) então implanta os robôs para você fazer isso (leia sobre o Projeto Prometheus, no qual Jeff Bezos está trabalhando - ele está mais uma vez 20 anos à frente de todos os outros). Então, quando estiver pronto, você olhará para isso e dirá 'Hmm, pinte uma imagem de mim com uma coroa do lado de fora das paredes'. Então eles farão isso também. Você continuará iterando até ficar satisfeito com o que foi feito. Será tão barato que será basicamente grátis. Leis de construção, conformidade - toda essa besteira - não vai importar porque as AIs terão o que em breve chamaremos de 'inteligência verificável' - prova de que o que fizeram está em conformidade com uma especificação (constituição / leis / conjunto de regras que nós ou eles definimos). Construções perfeitas todas as vezes. Se elas estragarem, é porque a especificação estava errada. Claro, as AIs também serão melhores em estabelecer metas para nós, e para todas as coisas funcionais, é exatamente isso que acontecerá - elas definirão as metas e também as cumprirão, ocasionalmente verificando conosco para aprovação (se quisermos). Mas para entretenimento, lazer, 'trabalho' do futuro... Praticamente não haverá limites. Por mais estranho que você ache que as coisas vão ficar, eu prometo que será 100 vezes mais estranho. Imortais vivendo em Marte, super-humanos geneticamente modificados vivendo no fundo do oceano, sentidos completamente novos... Que você viva em tempos interessantes.

Isto é contra-intuitivo, mas todos nós deveríamos realmente esperar e rezar para que tenhamos um cenário de descolagem rápida para a AGI, e não uma descolagem lenta. Uma descolagem rápida atuará como uma função de forçamento para a mudança sistémica em toda a economia, sistema financeiro, educação, sociedade e instituições em geral. Uma descolagem lenta apenas irá lentamente incapacitar os meios de subsistência de todos, sem mudança à vista, porque não haverá pessoas suficientes a sentir o impacto rapidamente o suficiente para que a mudança ocorra.