Roboter sind unglaublich, bis ein falscher Schwung dir die Zähne ausschlägt. und... ich mag meine Zähne. 🦷 deshalb ist RoboSafe ein Game-Changer. Forscher haben ein neues Sicherheitsframework vorgestellt, das darauf ausgelegt ist, körperlichen Schaden zu verhindern, bevor er passiert. Es ist im Wesentlichen ein Echtzeit-"Schutzgeländer" für die physische Welt. im Gegensatz zu statischem Code läuft RoboSafe parallel zu einem Agenten und bewertet jede Bewegung in zwei komplementären Schritten: - Rückwärtsdenken: Es erkennt unsichere Muster oder Trends im aktuellen Verhalten. - Vorwärtsdenken: Es sagt voraus, ob der nächste Schritt eine Gefahren-Schwelle basierend auf dem Kontext überschreitet. es versteht, dass "sicher" situationsabhängig ist. Die Mikrowelle einzuschalten ist in Ordnung, es sei denn, es befindet sich eine Metalluhr darin. in Tests hat RoboSafe gefährliche Aktionen um ~37% reduziert, ohne die Produktivität des Agenten zu beeinträchtigen. Die Erkenntnis ist, dass wir aufhören müssen, die Daumen zu drücken und zu hoffen, dass AI "sich gut verhält." Echte Sicherheit bedeutet, zu akzeptieren, dass Agenten unberechenbar sind und Systeme zu bauen, die davon ausgehen, dass sie scheitern werden. Schutzgeländer > Gute Absichten. 🤖🛡️