Роботи неймовірні, поки один невдалий замах не вибиває зуби. і... Мені подобаються мої зуби. 🦷 саме тому RoboSafe став справжнім проривом. Дослідники представили нову систему безпеки, розроблену для блокування фізичної шкоди до того, як вона станеться. По суті, це реальний «огорожа» для фізичного світу. На відміну від статичного коду, RoboSafe працює разом з агентом, оцінюючи кожен хід за допомогою двох додаткових кроків: - Зворотне міркування: виявляє небезпечні закономірності або тенденції в останній поведінці. - Пряме мислення: Прогнозує, чи наступний крок перевищує поріг небезпеки залежно від контексту. Вона розуміє, що «безпека» залежить від ситуації. Увімкнути мікрохвильовку — це нормально, якщо всередині немає металевого годинника. у тестах RoboSafe зменшив рівень небезпечних дій на ~37%, не знищивши продуктивність агента Висновок у тому, що нам потрібно перестати тримати кулаки і сподіватися, що ШІ «поводитиметься добре». Справжня безпека означає прийняття того, що агенти непередбачувані, і створення систем, які припускають, що вони зазнають невдачі. Обмеження > добрі наміри. 🤖🛡️