Los robots son increíbles hasta que un golpe en falso te deja los dientes. Y... Me gustan mis dientes. 🦷 por eso RoboSafe es un cambio radical. Los investigadores han presentado un nuevo marco de seguridad diseñado para bloquear el daño físico antes de que ocurra. Es esencialmente una "barrera de seguridad" en tiempo real para el mundo físico. a diferencia del código estático, RoboSafe se ejecuta junto a un agente, evaluando cada movimiento mediante dos pasos complementarios: - Razonamiento hacia atrás: Detecta patrones o tendencias inseguras en comportamientos recientes. - Razonamiento hacia adelante: predice si el siguiente movimiento supera un umbral de peligro en función del contexto. Entiende que "seguro" depende de la situación. Encender un microondas está bien, a menos que haya un reloj metálico dentro. En las pruebas, RoboSafe redujo las acciones peligrosas en un ~37% sin arruinar la productividad del agente La conclusión es que debemos dejar de cruzar los dedos y esperar que la IA "se comporte". La verdadera seguridad significa aceptar que los agentes son impredecibles y construir sistemas que asumen que van a fallar. Límites > buenas intenciones. 🤖🛡️