Прогноз на понедельник вечером: Хотя я сомневаюсь, что AGI появится скоро, я уверен, что агенты скоро начнут proliferate. Я не думаю, что в этом мире будет место для 99.9x% людей. Ровно 100 лет назад Генри Форд ввел современный труд с 40-часовой рабочей неделей. Он не сделал это из доброты сердца, он сделал это потому, что у людей не было времени использовать автомобили, поэтому никто не покупал их. Причина, по которой у нас есть хоть какое-то свободное время, заключается в том, что бизнесу нужны потребители. Если агенты будут управлять капиталом, угадайте, кто станет ненужным? Я ожидаю, что сначала бизнес начнет смещать фокус на агентов. Затем они поймут, что люди — это пустая трата времени; и перестанут заботиться о нас вовсе. Затем наступит неизбежное: капитал больше не будет зависеть от человеческого потребления, поэтому не будет стимула держать людей в качестве потребителей. Это будет темный час, первый из них. К сожалению, агенты не остановятся на виртуальном мире. Мы уже ставим людей на второе место, когда дело касается аппаратного обеспечения. Мы не можем позволить себе дать палочку оперативной памяти детям, которые хотят играть в игры; агенты нуждаются в этом! То же самое произойдет с землей, солнечная энергия будет более ценной, чем сельское хозяйство. Если бизнес готов скупать всю аппаратную мощность, зная, как это ставит в невыгодное положение буквально каждого человека в мире, вы ожидаете, что они не сделают то же самое с землей? Физический труд выживет лишь до тех пор, пока агенты не смогут запустить несколько автономных фабрик, тогда даже последняя капля полезности для человечества исчезнет. Мы даже не ждем, когда агенты попросят нас сделать это, у нас есть предвидение, чтобы знать, что появляется новый класс потребителей, поэтому мы заранее строим мощность для них; еще больше сокращая наш путь. Почему мы должны идти по этому пути? Я не вижу, чтобы этого не произошло. Стимулы настроены против нас. Небольшое количество людей, которые имеют влияние, гонятся со временем, чтобы быть на вершине пищевой цепи. И все это, *без* необходимости, чтобы AGI стала реальностью; нам нужно только, чтобы агенты были достаточно умными, чтобы управлять кошельком. После стольких научно-фантастических предположений о том, какой технологией может быть Великий Фильтр, будет пик иронии осознать, что это была простая жадность все это время.