Мысли... В последнее время я сталкиваюсь с странной трудностью. Долгосрочное мышление всегда было для меня естественным, чем-то, чему я научился с легкостью. Теперь это кажется почти невозможным. Почему? AGI. Каждый раз, когда я сажусь планировать будущее, я сталкиваюсь с одной и той же реализацией. Мы ждем, кто построит первый настоящий AGI, и тот, кто это сделает, фактически станет владельцем мира. Это делает долгосрочное планирование disconnected от реальности. Я не знаю, в каком мире я буду жить, поэтому не могу уверенно привязать будущее к чему-либо. AGI — это последняя гонка. Мы приближаемся к финальному уровню видеоигры. Точка, в которой один игрок создает систему, способную автоматизировать все интеллектуальные задачи, достигающие цели, превращает своего создателя во что-то близкое к богу. Одно существо получает возможность обойти всех в каждой области. Это заканчивает конкуренцию. Это заканчивает возможность выбора. Второе место становится рабом мировоззрения того, кто доберется туда первым. Вот почему стимулы вокруг AGI так опасны. Каждый игрок понимает, что колебания — это прямой путь к подчинению. Эта логика заставляет ускоряться, подталкивает к сокращениям и стирает осторожность в отношении безопасности. Как только гонка становится экзистенциальной для конкурентов, внешние факторы перестают иметь значение. Существует также человеческий элемент, который представляет собой собственный риск. Многие из людей, движущих этот фронт, действуют из мотивов, которые не имеют ничего общего со стабильностью или ответственностью. Некоторые хотят доминирования. Некоторые хотят спроектировать следующую цивилизацию. Некоторые хотят встретить бога, которого они сами создали. Эти стимулы формируют решения таким образом, что они не соответствуют масштабу власти, которую они пытаются создать. Это основная причина, по которой долгосрочное планирование сейчас кажется мне странным. Будущее будет определяться одним исходом, контролируемым одной группой. Вероятное становится несущественным, когда определяющее событие является абсолютным. И как только вы это осознаете, становится ясно, что мы больше не планируем свое собственное будущее. Мы ждем, чей бог придет первым, и чьему миру мы в конечном итоге станем рабами.

Единственное, что я хочу знать, это является ли @santiagoroel самым большим троллем на свете, потому что нет никакого способа, чтобы он случайно выбрал надеть свой жилет Inversion Patagonia для дебатов, где он использует эти метрики для оценки L1.

Джарвис… пожалуйста, активируй режим защиты и блокируй все предстоящие посты Spotify Wrapped, прежде чем они дойдут до моих глаз.