Il existe un véritable argument en faveur des biens publics pour l'AGI lorsque nous l'obtiendrons, étant donné qu'elle n'existera que parce qu'elle s'est entraînée sur toutes nos données, les revenus qui en découleront doivent être redistribués de manière équitable. L'idée que les grandes entreprises technologiques puissent simplement récolter les moyens de subsistance de tout le monde puis s'enfuir avec tout l'argent, laissant tout le monde sans emploi, est d'une immoralité incommensurable. Même d'un point de vue strictement capitaliste et d'innovation, ce n'est tout simplement pas juste. Ils ont tellement d'argent que le vol de propriété intellectuelle n'a même pas d'importance, ils peuvent simplement payer l'amende. Il y a un potentiel stupéfiant avec l'AGI, à tel point qu'on pourrait dire que la loi sur la propriété intellectuelle ne devrait même pas exister... Mais c'est un autre sujet. Le problème est vraiment une question d'équité / de distribution, sur laquelle les humains ont historiquement été absolument terribles, et pour laquelle de nombreuses guerres ont été menées. Les modèles ne peuvent pas être auto-alimentés sans les données collectives des experts qui ont façonné les résultats de leurs professions pendant des décennies. Même lorsque nous obtiendrons des modèles capables d'apprendre véritablement en continu et de rassembler des données par eux-mêmes, l'argument s'applique toujours. 'Mais pour' la phase de pré-entraînement, ces modèles n'existeraient pas. Le revenu de base universel ne devrait pas être des miettes jetées aux plébéiens non plus, il devra être sérieusement substantiel pour les empêcher de se révolter, à mon avis. Je m'attends à ce que cela soit l'un des principaux sujets de discussion à travers l'Occident lors du prochain cycle politique.

Les humains du futur seront des créateurs de tendances et des allocateurs de capitaux. C'est l'étendue de notre travail. Pur, non altéré, dirigé par un objectif 'hey AI, fais ça' et elle le fera. Fondamentalement comme un jeu vidéo. Vous créerez votre propre réalité de manière de plus en plus étrange et sauvage. Cela commencera dans le monde numérique, mais finira par s'étendre au monde physique (dans la mesure où les réglementations le permettent). L'Amazon du futur est simplement un utilisateur demandant à une IA 'Hé, j'ai besoin de 70 humanoïdes pour me construire un château sur ce terrain que je possède, fais-le'. ABS (Amazon Bot Services... nom fictif) déploie alors les bots pour vous le faire (lisez à propos du Projet Prometheus, sur lequel Jeff Bezos travaille - il a encore une fois 20 ans d'avance sur tout le monde). Puis, quand c'est fait, vous regarderez et direz 'Hmm, peins une image de moi avec une couronne à l'extérieur des murs'. Ensuite, ils le feront aussi. Vous continuerez à itérer jusqu'à ce que vous soyez satisfait de ce qu'ils ont fait. Ce sera si bon marché que c'est pratiquement gratuit. Les lois de la construction, la conformité - toute cette connerie - n'aura pas d'importance parce que les IA auront ce que nous appellerons bientôt 'intelligence vérifiable' - la preuve que ce qu'elles ont fait est conforme à une spécification (constitution / lois / ensemble de règles que nous ou elles définissons). Des constructions parfaites à chaque fois. Si elles se trompent, c'est parce que la spécification était erronée. Bien sûr, les IA seront également meilleures pour définir des objectifs pour nous, et pour toutes les choses fonctionnelles, c'est exactement ce qui se passera - elles définiront les objectifs puis les réaliseront aussi, vérifiant occasionnellement avec nous pour approbation (si nous le souhaitons). Mais pour le divertissement, les loisirs, le 'travail' du futur... Il n'y aura pratiquement aucune limite. Aussi étrange que vous pensiez que les choses deviendront, je vous promets que cela va être 100 fois plus étrange. Des immortels vivant sur Mars, des superhumains génétiquement modifiés vivant au fond de l'océan, des sens entièrement nouveaux... Puissiez-vous vivre des temps intéressants.

C'est contre-intuitif, mais nous devrions tous en fait espérer et prier pour que nous ayons un scénario de décollage rapide pour l'AGI, et non un décollage lent. Un décollage rapide agira comme une fonction de forçage pour un changement systémique à travers l'économie, le système financier, l'éducation, la société et les institutions en général. Un décollage lent ne fera que progressivement handicaper les moyens de subsistance de tout le monde sans changement à l'horizon, car pas assez de personnes se sentiront impactées assez rapidement pour qu'un changement ait lieu.