Существует подлинный аргумент в пользу общественных благ для AGI, когда мы его получим, поскольку он будет существовать только потому, что обучался на всех наших данных, доходы от него должны быть перераспределены каким-то справедливым образом. Идея о том, что крупные технологии просто могут собирать средства к существованию всех, а затем убежать с деньгами, оставив всех безработными, является непостижимо неэтичной. Даже с точки зрения строгого капитализма и инноваций это просто неправильно. У них так много денег, что кража ИП даже не имеет значения, они просто могут заплатить штраф. С AGI есть колоссальный потенциал, настолько, что можно утверждать, что закон об ИП вообще не должен существовать... Но это уже другой вопрос. Проблема на самом деле заключается в справедливости / распределении, с чем люди исторически были абсолютно ужасны, и из-за чего было много войн. Модели не могут быть запущены без коллективных данных экспертов, которые создавали результаты своих профессий на протяжении десятилетий. Даже когда мы получим модели, которые действительно могут непрерывно обучаться и собирать данные для себя, аргумент все равно применим. 'Но для' стадии предварительного обучения эти модели бы не существовали. UBI не должно быть просто куском, брошенным плебеям, это должно быть серьезно значительным, чтобы остановить их от бунта, на мой взгляд. Я ожидаю, что это станет одной из самых обсуждаемых тем на Западе в следующем политическом цикле.

Люди будущего будут создателями вкуса и распределителями капитала. Это будет пределом нашей работы. Чистое, неразбавленное, целенаправленное 'эй, ИИ, сделай это', и он это сделает. По сути, как видеоигра. Вы создадите свою собственную реальность все более странными и дикими способами. Это начнется в цифровом мире, но в конечном итоге расширится на физический мир (в той мере, в какой это позволит регулирование). Будущее Amazon — это просто пользователь, который подает ИИ команду 'Эй, мне нужно 70 гуманоидов, чтобы построить мне замок на этой земле, которую я владею, сделай это'. ABS (Amazon Bot Services... вымышленное название) затем разворачивает роботов, чтобы сделать это за вас (прочитайте о проекте Прометей, над которым работает Джефф Безос — он снова на 20 лет впереди всех). Когда это будет сделано, вы посмотрите на это и скажете 'Хм, нарисуй картину меня с короной на внешней стороне стен'. Тогда они сделают и это. Вы будете продолжать итерации, пока не будете довольны тем, что они сделали. Это будет так дешево, что по сути бесплатно. Строительные законы, соблюдение — все это дерьмо — не будет иметь значения, потому что ИИ будут иметь то, что мы вскоре назовем 'проверяемым интеллектом' — доказательство того, что то, что они сделали, соответствует спецификации (конституции / законам / набору правил, которые мы или они определим). Идеальные постройки каждый раз. Если они ошибаются, это потому, что спецификация была неверной. Конечно, ИИ также будут лучше в постановке целей для нас, и для всех функциональных вещей именно это и произойдет — они будут ставить цели, а затем выполнять их тоже, время от времени проверяя с нами на одобрение (если мы захотим). Но для развлечений, досуга, 'работы' будущего... Практически не будет никаких ограничений. Как бы странно вы ни думали, что все станет, я обещаю вам, что это будет в 100 раз страннее. Бессмертные, живущие на Марсе, генетически модифицированные суперлюди, живущие на дне океана, совершенно новые чувства... Пусть вы живете в интересные времена.

Это противоречит интуиции, но нам всем на самом деле следует надеяться и молиться о том, чтобы у нас был быстрый сценарий взлета для AGI, а не медленный. Быстрый взлет будет действовать как катализатор системных изменений в экономике, финансовой системе, образовании, обществе и институтах в целом. Медленный взлет просто медленно подорвет средства к существованию всех, не приведя к изменениям на горизонте, потому что недостаточно людей почувствуют влияние быстро, чтобы изменения произошли.