Roboter er utrolige helt til ett feil slag slår ut tennene dine. og... Jeg liker tennene mine. 🦷 derfor er RoboSafe en spillforandrer. Forskere har lansert et nytt sikkerhetsrammeverk designet for å forhindre fysisk skade før den skjer. Det er i praksis et sanntids «rekkverk» for den fysiske verden. i motsetning til statisk kode, kjører RoboSafe sammen med en agent, og evaluerer hvert trekk via to komplementære trinn: - Baklengs resonnering: Den oppdager usikre mønstre eller trender i nylig atferd. - Fremoverresonnement: Den forutsier om neste trekk krysser en faregrense basert på kontekst. Den forstår at «trygt» er situasjonsbetinget. Å slå på en mikrobølgeovn er greit, med mindre det er et metallur inni. i tester kuttet RoboSafe farlige handlinger med ~37 % uten å ødelegge agentens produktivitet Konklusjonen er at vi må slutte å krysse fingrene og håpe at AI «oppfører seg». Ekte sikkerhet betyr å akseptere at agenter er uforutsigbare og bygge systemer som antar at de vil feile. Sikkerhetsmekanismer > gode intensjoner. 🤖🛡️