Los robots son increíbles hasta que un mal movimiento te saca los dientes. y... me gustan mis dientes. 🦷 por eso RoboSafe es un cambio de juego. Los investigadores han presentado un nuevo marco de seguridad diseñado para bloquear el daño físico antes de que ocurra. Es esencialmente una "barandilla" en tiempo real para el mundo físico. a diferencia del código estático, RoboSafe funciona junto a un agente, evaluando cada movimiento a través de dos pasos complementarios: - Razonamiento hacia atrás: Detecta patrones o tendencias inseguras en el comportamiento reciente. - Razonamiento hacia adelante: Predice si el siguiente movimiento cruza un umbral de peligro basado en el contexto. entiende que "seguro" es situacional. Encender un microondas está bien, a menos que haya un reloj de metal dentro. en las pruebas, RoboSafe redujo las acciones peligrosas en ~37% sin arruinar la productividad del agente. La conclusión es que necesitamos dejar de cruzar los dedos y esperar que la IA "comporte." La verdadera seguridad significa aceptar que los agentes son impredecibles y construir sistemas que asuman que fallarán. Barandillas > Buenas intenciones. 🤖🛡️