Існує справжній аргумент про суспільні блага на користь AGI, коли ми його отримуємо, що оскільки він існуватиме лише тому, що навчився на всіх наших даних, доходи від нього мають бути перерозподілені справедливо. Ідея, що великі технологічні компанії мають просто заробляти на життя всіх, а потім тікати з усіма грошима, залишаючи всіх без роботи, є неймовірно неетичною. Навіть з точки зору суворого капіталізму та інновацій це просто неправильно. У них стільки грошей, що крадіжка інтелектуальної власності навіть не має значення, вони можуть просто заплатити штраф. У AGI є величезний плюс, настільки, що спірне право на інтелектуальну власність взагалі не повинно існувати... Але це вже інше питання. Проблема насправді полягає у рівності та розподілі, в якому люди історично були абсолютно жахливими, і за яку точилося багато воєн. Моделі не можна створювати самостійно без колективних даних експертів, які протягом десятиліть створювали результати своїх професій. Навіть коли ми отримуємо моделі, які можуть справді безперервно вчитися і збирати дані для себе, цей аргумент все одно актуальний. «Якби» етап попереднього навчання таких моделей не існувало б. Базовий базовий доход не повинен бути якоюсь критикою, яку кидають плебеїв, він має бути справді суттєвим, щоб зупинити їх від заворушень, на мою думку. Очікую, що це стане однією з найбільших тем для обговорення на Заході в наступному політичному циклі.

Люди майбутнього стануть творцями смаку та капіталізаторами. Це буде весь обсяг нашої роботи. Чисте, непідроблене, цілеспрямоване «гей, ШІ, зроби це» — і воно це зробить. По суті, як відеогра. Ти створюватимеш власну реальність дедалі дивнішими і дикими способами. Це почнеться у цифровому світі, але згодом пошириться і на фізичний світ (настільки, наскільки це дозволяють регулювання). Амазонка майбутнього — це просто користувач, який підказує штучному інтелекту: «Гей, мені потрібно 70 гуманоїдів, щоб побудувати замок на цій землі, що я маю, роби це». ABS (Amazon Bot Services... вигадане ім'я) потім розгортає ботів, щоб ви могли це зробити (читайте про Проєкт Прометей, над яким працює Джефф Безос — він знову на 20 років попереду всіх інших). А коли все готово, ти подивишся на нього і скажеш: «Хмм, намалюй мене з короною зовні стін». Тоді вони теж так робитимуть. Ви будете продовжувати вдосконалювати, поки не будете задоволені результатом. Це буде настільки дешево, що фактично безкоштовно. Закони про будівництво, дотримання вимог — вся ця нісенітниця — не матимуть значення, бо ШІ незабаром матимуть те, що ми назвемо «перевіреним інтелектом» — доказом того, що їхні дії відповідають певній специфікації (конституції / законам / набору правил, які визначаємо ми або вони сами). Ідеальні збірки щоразу. Якщо вони все зіпсують, то це через неправильну характеристику. Звісно, ШІ також краще встановлюватимуть для нас цілі, і для всіх функціональних речей саме так і відбувається — вони встановлюють цілі, а потім виконуватимуть їх, час від часу уточнюючи у нас затвердження (якщо ми цього хочемо). Але для розваг, дозвілля, «роботи» майбутнього... Практично не буде жодних обмежень. Як би дивно ти не думав, що все станеться, обіцяю, це буде у сто разів дивніше. Безсмертні, що живуть на Марсі, генетично модифіковані надлюди, що живуть на дні океану, абсолютно нові відчуття... Нехай ви живете у цікаві часи.

Це нелогічно, але ми всі повинні насправді сподіватися і молитися, щоб ми отримали швидкий старт для AGI, а не повільний зліт. Швидкий зліт стане примусовою функцією для системних змін в економіці, фінансовій системі, освіті, суспільстві та інституціях загалом. Повільний зліт просто повільно паралізує засоби до існування всіх, і на горизонті змін не очікує, бо недостатньо людей відчуватимуть вплив достатньо швидко, щоб зміни відбувалися.