Os robôs são incríveis até que um movimento errado derrube os seus dentes. e... eu gosto dos meus dentes. 🦷 é por isso que o RoboSafe é um divisor de águas. Pesquisadores revelaram uma nova estrutura de segurança projetada para bloquear danos físicos antes que eles aconteçam. É essencialmente uma "barreira de proteção" em tempo real para o mundo físico. diferente do código estático, o RoboSafe funciona ao lado de um agente, avaliando cada movimento através de dois passos complementares: - Raciocínio reverso: Detecta padrões ou tendências inseguras no comportamento recente. - Raciocínio para frente: Prediz se o próximo movimento ultrapassa um limite de perigo com base no contexto. ele entende que "seguro" é situacional. Ligar um micro-ondas é aceitável, a menos que haja um relógio de metal dentro. em testes, o RoboSafe reduziu ações perigosas em ~37% sem prejudicar a produtividade do agente. A lição é que precisamos parar de cruzar os dedos e esperar que a IA "comporte-se." A verdadeira segurança significa aceitar que os agentes são imprevisíveis e construir sistemas que assumam que eles falharão. Barreiras de proteção > Boas intenções. 🤖🛡️