Es gibt ein echtes Argument für öffentliche Güter für AGI, wenn wir sie bekommen, da sie nur existieren wird, weil sie sich mit all unseren Daten trainiert hat, muss der daraus resultierende Umsatz auf irgendeine gerechte Weise umverteilt werden. Die Idee, dass Big Tech einfach die Lebensgrundlagen aller ernten und dann mit dem ganzen Geld davonlaufen kann, während alle arbeitslos werden, ist unvorstellbar unethisch. Selbst aus einer strengen kapitalistischen und innovationsbezogenen Perspektive ist es einfach nicht richtig. Sie haben so viel Geld, dass IP-Diebstahl nicht einmal von Bedeutung ist, sie können einfach die Strafe zahlen. Es gibt einen gewaltigen Vorteil durch AGI, so sehr, dass man argumentieren könnte, dass das IP-Recht nicht einmal existieren sollte... Aber das ist ein anderes Thema. Das Problem ist wirklich eines der Gerechtigkeit / Verteilung, bei dem die Menschen historisch gesehen absolut schrecklich waren und über das viele Kriege geführt wurden. Die Modelle können nicht ohne die kollektiven Daten der Experten, die über Jahrzehnte die Ergebnisse ihrer Berufe gestaltet haben, bootstrapped werden. Selbst wenn wir Modelle bekommen, die wirklich kontinuierlich lernen und Daten für sich selbst sammeln können, gilt das Argument immer noch. 'Aber für' die Vortrainingsphase würden diese Modelle nicht existieren. UBI sollte auch keine Brocken sein, die den Plebs hingeworfen werden, es muss ernsthaft substanziell sein, um sie davon abzuhalten, meiner Meinung nach zu randalieren. Ich erwarte, dass dies einer der größten Gesprächspunkte im Westen im nächsten politischen Zyklus sein wird.

Die Menschen der Zukunft werden Geschmacksmacher und Kapitalverwalter sein. Das wird der Umfang unserer Arbeit sein. Rein, unverfälscht, zielgerichtet 'Hey KI, mach das' und sie wird es tun. Im Grunde wie ein Videospiel. Du wirst deine eigene Realität auf immer seltsamere und verrücktere Weise erschaffen. Das wird in der digitalen Welt beginnen, sich aber schließlich auf die physische Welt ausdehnen (soweit es die Vorschriften erlauben). Das Amazon der Zukunft ist einfach ein Nutzer, der eine KI auffordert: 'Hey, ich brauche 70 Humanoiden, um mir ein Schloss auf diesem Land zu bauen, das ich besitze, mach das.' ABS (Amazon Bot Services... fiktiver Name) setzt dann die Bots ein, um es für dich zu tun (lies über Projekt Prometheus, an dem Jeff Bezos arbeitet - er ist einmal mehr 20 Jahre voraus). Wenn es fertig ist, wirst du es dir ansehen und sagen: 'Hmm, male ein Bild von mir mit einer Krone an der Außenseite der Wände'. Dann werden sie das auch tun. Du wirst weiter iterieren, bis du mit dem, was sie getan haben, zufrieden bist. Es wird so billig sein, dass es praktisch kostenlos ist. Baugesetze, Compliance - all dieser Bullshit - wird keine Rolle spielen, denn die KIs werden das haben, was wir bald 'verifizierbare Intelligenz' nennen werden - der Beweis, dass das, was sie getan haben, mit einer Spezifikation übereinstimmt (Verfassung / Gesetze / Regelwerk, das wir oder sie definieren). Perfekte Bauten jedes Mal. Wenn sie es vermasseln, liegt es daran, dass die Spezifikation falsch war. Natürlich werden die KIs auch besser darin sein, Ziele für uns zu formulieren, und für alle funktionalen Dinge wird genau das passieren - sie werden die Ziele setzen und sie dann auch erfüllen, gelegentlich mit uns zur Genehmigung abgleichen (wenn wir wollen). Aber für Unterhaltung, Freizeit, 'Arbeit' der Zukunft... Wird es praktisch keine Grenzen geben. So seltsam du denkst, dass die Dinge werden, ich verspreche dir, es wird 100x seltsamer. Unsterbliche, die auf dem Mars leben, genetisch modifizierte Supermenschen, die auf dem Meeresboden leben, völlig neue Sinne... Mögest du in interessanten Zeiten leben.

Das ist kontraintuitiv, aber wir sollten alle tatsächlich hoffen und beten, dass wir ein schnelles Abheben-Szenario für AGI bekommen, nicht ein langsames Abheben. Ein schnelles Abheben wird als treibende Kraft für systemische Veränderungen in der Wirtschaft, im Finanzsystem, in der Bildung, in der Gesellschaft und in den Institutionen insgesamt wirken. Ein langsames Abheben wird einfach langsam die Lebensgrundlagen aller beeinträchtigen, ohne dass eine Veränderung am Horizont sichtbar ist, weil nicht genug Menschen schnell genug betroffen sein werden, damit Veränderungen stattfinden können.