Roboții sunt incredibili până când o singură lovitură greșită îți sparge dinții. și... Îmi plac dinții mei. 🦷 de aceea RoboSafe schimbă jocul. Cercetătorii au prezentat un nou cadru de siguranță conceput pentru a bloca vătămările fizice înainte ca acestea să se întâmple. Este, practic, o "balustradă" în timp real pentru lumea fizică. spre deosebire de codul static, RoboSafe rulează împreună cu un agent, evaluând fiecare mișcare prin doi pași complementari: - Raționament invers: Detectează tipare sau tendințe nesigure în comportamentul recent. - Raționament înainte: Prezice dacă următoarea mutare depășește un prag de pericol pe baza contextului. Înțelege că "sigur" este situațional. Pornirea cuptorului cu microunde este în regulă, cu excepția cazului în care este un ceas metalic înăuntru. în teste, RoboSafe a redus acțiunile periculoase cu ~37% fără a afecta productivitatea agentului Concluzia este că trebuie să încetăm să ne mai încrucișăm pumnii și să sperăm că AI-ul "se comportă". Adevărata siguranță înseamnă să accepți că agenții sunt imprevizibili și să construiești sisteme care presupun că vor eșua. Balustrade > bune intenții. 🤖🛡️