Роботы невероятны, пока один неверный удар не выбьет вам зубы. А... мне нравятся мои зубы. 🦷 Вот почему RoboSafe — это настоящая революция. Исследователи представили новую систему безопасности, предназначенную для предотвращения физического вреда до его возникновения. Это, по сути, "ограждение" в реальном времени для физического мира. В отличие от статического кода, RoboSafe работает вместе с агентом, оценивая каждое движение через два взаимодополняющих шага: - Обратное рассуждение: Он обнаруживает небезопасные паттерны или тенденции в недавнем поведении. - Прямое рассуждение: Он предсказывает, пересечет ли следующий шаг порог опасности на основе контекста. Он понимает, что "безопасно" — это ситуативно. Включение микроволновки нормально, если внутри нет металлических часов. В тестах RoboSafe сократил опасные действия на ~37% без ущерба для продуктивности агента. Вывод в том, что нам нужно перестать скрещивать пальцы и надеяться, что AI "ведет себя". Истинная безопасность означает принятие того, что агенты непредсказуемы, и создание систем, которые предполагают, что они потерпят неудачу. Ограждения > Хорошие намерения. 🤖🛡️