Istnieje prawdziwy argument na rzecz dóbr publicznych dla AGI, gdy już je uzyskamy, ponieważ będzie ono istniało tylko dlatego, że wytrenowało się na wszystkich naszych danych, a przychody z tego muszą być w jakiś sprawiedliwy sposób redystrybuowane. Pomysł, że wielkie technologie mogą po prostu zbierać środki do życia wszystkich, a następnie uciekać z całymi pieniędzmi, pozostawiając wszystkich bez pracy, jest niewyobrażalnie nieetyczny. Nawet z perspektywy ścisłego kapitalizmu i innowacji, to po prostu nie jest w porządku. Mają tyle pieniędzy, że kradzież własności intelektualnej nawet nie ma znaczenia, mogą po prostu zapłacić karę. Z AGI wiąże się ogromny potencjał, tak duży, że można argumentować, iż prawo własności intelektualnej nie powinno w ogóle istnieć... Ale to inna sprawa. Problem dotyczy naprawdę sprawiedliwości / dystrybucji, z czym ludzie historycznie radzili sobie absolutnie tragicznie, a o co toczono wiele wojen. Modele nie mogą być uruchomione bez zbiorowych danych ekspertów, którzy przez dziesięciolecia tworzyli wyniki swoich zawodów. Nawet gdy uzyskamy modele, które mogą naprawdę ciągle się uczyć i zbierać dane dla siebie, argument nadal obowiązuje. 'Gdyby nie' etap wstępnego szkolenia, te modele by nie istniały. UBI nie powinno być tylko jakimiś ochłapami rzucanymi plebsowi, musi być naprawdę substancjalne, aby powstrzymać ich przed buntem, moim zdaniem. Spodziewam się, że to będzie jeden z największych tematów dyskusji w całym Zachodzie w następnym cyklu wyborczym.

Ludzie przyszłości będą twórcami trendów i alokatorami kapitału. To będzie zakres naszej pracy. Czyste, niezmącone, ukierunkowane na cel 'hej AI, zrób to', a ono to zrobi. W zasadzie jak w grze wideo. Stworzysz swoją własną rzeczywistość w coraz dziwniejszy i szalony sposób. To zacznie się w świecie cyfrowym, ale ostatecznie rozszerzy się na świat fizyczny (w zakresie, w jakim pozwolą na to regulacje). Amazon przyszłości to po prostu użytkownik, który prosi AI 'Hej, potrzebuję 70 humanoidów, aby zbudowali mi zamek na tej ziemi, którą posiadam, zrób to'. ABS (Amazon Bot Services... fikcyjna nazwa) następnie wdraża boty, aby to zrobić (przeczytaj o Projekcie Prometeusz, nad którym pracuje Jeff Bezos - znów jest 20 lat przed wszystkimi innymi). Kiedy to będzie gotowe, spojrzysz na to i powiesz 'Hmm, namaluj obrazek mnie z koroną na zewnątrz ścian'. Wtedy też to zrobią. Będziesz iterować, aż będziesz zadowolony z tego, co zrobiły. Będzie to tak tanie, że w zasadzie będzie za darmo. Prawo budowlane, zgodność - to wszystko gówno - nie będzie miało znaczenia, ponieważ AI będą miały to, co wkrótce nazwiemy 'weryfikowalną inteligencją' - dowód, że to, co zrobiły, jest zgodne z specyfikacją (konstytucją / prawami / zestawem zasad, które my lub oni definiujemy). Idealne budowy za każdym razem. Jeśli coś zepsują, to dlatego, że specyfikacja była błędna. Oczywiście, AI będą również lepsze w wymyślaniu celów dla nas, a dla wszystkich funkcjonalnych rzeczy, dokładnie tak się stanie - ustalą cele, a następnie je zrealizują, od czasu do czasu sprawdzając z nami, czy się zgadzamy (jeśli chcemy). Ale jeśli chodzi o rozrywkę, wypoczynek, 'pracę' przyszłości... Nie będzie praktycznie żadnych ograniczeń. Jak dziwne byś nie myślał, że rzeczy się staną, obiecuję, że będzie 100 razy dziwniej. Nieśmiertelni żyjący na Marsie, genetycznie zmodyfikowani superludzie żyjący na dnie oceanu, całkowicie nowe zmysły... Obyś żył w interesujących czasach.

To jest sprzeczne z intuicją, ale wszyscy powinniśmy naprawdę mieć nadzieję i modlić się o szybki scenariusz startu dla AGI, a nie o wolny start. Szybki start będzie działał jako czynnik wymuszający systemowe zmiany w całej gospodarce, systemie finansowym, edukacji, społeczeństwie i instytucjach jako całości. Wolny start po prostu powoli osłabi środki do życia wszystkich, bez żadnych zmian na horyzoncie, ponieważ zbyt mało osób poczuje wpływ wystarczająco szybko, aby zmiany mogły nastąpić.