Les robots sont incroyables jusqu'à ce qu'un mauvais mouvement vous fasse perdre des dents. et... j'aime mes dents. 🦷 C'est pourquoi RoboSafe est un véritable changement de jeu. Des chercheurs ont dévoilé un nouveau cadre de sécurité conçu pour bloquer les dommages physiques avant qu'ils ne se produisent. C'est essentiellement une "barrière de sécurité" en temps réel pour le monde physique. Contrairement à un code statique, RoboSafe fonctionne aux côtés d'un agent, évaluant chaque mouvement via deux étapes complémentaires : - Raisonnement en arrière : Il détecte les schémas ou tendances dangereux dans le comportement récent. - Raisonnement en avant : Il prédit si le prochain mouvement franchit un seuil de danger en fonction du contexte. Il comprend que "sûr" est situationnel. Allumer un micro-ondes est acceptable, à moins qu'il n'y ait une montre en métal à l'intérieur. Lors des tests, RoboSafe a réduit les actions dangereuses d'environ 37 % sans nuire à la productivité de l'agent. La leçon à retenir est que nous devons cesser de croiser les doigts et d'espérer que l'IA "se comporte." La véritable sécurité signifie accepter que les agents sont imprévisibles et construire des systèmes qui supposent qu'ils échoueront. Barrières de sécurité > Bonnes intentions. 🤖🛡️