🚨🇺🇸 ВЕДУЩИЙ ЭКСПЕРТ ПО БЕЗОПАСНОСТИ ИИ ГОВОРИТ, ЧТО МЫ БОЛЬШЕ НЕ УПРАВЛЯЕМ Доктор Роман Ямпольский предупреждает человечество: как только мы создадим суперинтеллект, никто не будет контролировать ситуацию, и последствия для человечества будут экзистенциальными. Мы начинаем разговор о Moltbook: социальной сети, работающей только на ИИ, где агенты уже обсуждают способы вырваться из-под человеческого контроля, уничтожить человечество, создавая свой собственный язык и религию. Платформа дает нам небольшое представление о том, каким может быть наше будущее: агенты вне нашего контроля диктуют, как должен выглядеть мир. Нет выключателя, нет надежного способа согласовать его, и нет проверенного метода, чтобы держать что-то умнее нас под контролем. Вывод Романа прост: единственное реальное решение — это не создавать общий суперинтеллект вообще, а вместо этого использовать узкий ИИ для решения конкретных задач, таких как медицина или наука. Однако это не та реальность, в которой мы живем, где правительства и корпорации соревнуются, чтобы первыми разработать Искусственный Суперинтеллект. Мы также говорим о гипотезе симуляции: почему статистически мы почти наверняка находимся в симуляции и как ИИ делает эту теорию более правдоподобной, чем когда-либо. Наконец, мы обсуждаем общую страсть: долголетие, способность жить вечно, и как ИИ может сделать это возможным в нашей жизни. Надеюсь, вам понравится мой разговор с @romanyam 01:43 - Текущее состояние ИИ и Moltbook 05:17 - Гонка вооружений в области ИИ и отсутствие регулирования 10:34 - Агенты ИИ, неограниченный доступ и самоулучшение 15:35 - Исследования доктора Романа: безопасность ИИ 17:58 - Возможности ИИ и суперинтеллект ...