Robotar är otroliga tills ett felslag slår ut dina tänder. och... Jag gillar mina tänder. 🦷 det är därför RoboSafe är en spelväxlare. Forskare har lanserat ett nytt säkerhetsramverk som är utformat för att förhindra fysisk skada innan den inträffar. Det är i princip ett realtids-"skyddsräcke" för den fysiska världen. till skillnad från statisk kod körs RoboSafe tillsammans med en agent och utvärderar varje drag via två kompletterande steg: - Bakåtresonerande: Det upptäcker osäkra mönster eller trender i nyligen beteende. - Framåtresonemang: Den förutspår om nästa drag passerar en faretröskel baserat på kontext. Den förstår att "säkert" är situationsberoende. Att slå på mikrovågsugn är okej, om det inte finns en metallklocka inuti. i tester minskade RoboSafe farliga åtgärder med ~37 % utan att förstöra medlets produktivitet Slutsatsen är att vi måste sluta hålla tummarna och hoppas att AI "beter sig." Verklig säkerhet innebär att acceptera att agenter är oförutsägbara och bygga system som antar att de kommer att fallera. Skyddsräcken > goda intentioner. 🤖🛡️