Черт возьми… Meta только что выпустила документ, который переворачивает нарратив «ИИ будет улучшать себя и оставит нас позади» с ног на голову, и последствия огромны 😳 Вот дикая часть: Они утверждают, что самый безопасный и быстрый путь к суперразуму вовсе не в самосовершенствующемся ИИ. Это совместное улучшение людей и ИИ, которые занимаются исследованием ИИ вместе как единая система. Не «ИИ заменяет исследователей». Не «ИИ переписывает себя в темноте». А ИИ, который явно создан для сотрудничества с людьми в области идей, эталонов, экспериментов, анализа ошибок, работы по выравниванию и проектирования систем. И когда вы читаете детали, становится очевидно, почему это важно: → Самосовершенствование против совместного улучшения как два совершенно разных мира: Самосовершенствование исключает людей. Совместное улучшение создает цикл, в котором люди улучшают ИИ, ИИ улучшает человеческие исследования, и обе стороны поднимаются вместе. → Таблица 1 на странице 3 разбирает, что на самом деле означает «сотрудничество в исследовании ИИ»: совместное проектирование эталонов совместное проведение экспериментов совместное отладка неудач совместная разработка методов безопасности совместное написание статей совместное строительство инфраструктуры ...