Итак, у нас теперь есть мощные агентные модели, такие как Opus, но они не проявляют стремлений к власти, наклонностей к лжи и так далее. Разве это не смертельный удар по аргументам пессимистов в отношении ИИ, что эти черты (а) обязательно появятся с повышением возможностей и (б) будут трудно контролировать?

Я помню, когда "разрешение моделям несанкционированный доступ в интернет" было критической красной чертой, которую человечество просто не могло пересечь. Похоже, что все эти люди просто ошибались, или, по крайней мере, им нужно сильно сдвинуть цели.