Robotit ovat uskomattomia, kunnes yksi väärä isku saa hampaat irti. ja... Pidän hampaistani. 🦷 siksi RoboSafe on pelin muuttaja. Tutkijat ovat paljastaneet uuden turvallisuuskehyksen, jonka tarkoituksena on estää fyysinen vahinko ennen kuin se tapahtuu. Se on käytännössä reaaliaikainen "suojakaide" fyysiselle maailmalle. toisin kuin staattinen koodi, RoboSafe toimii agentin rinnalla arvioiden jokaisen liikkeen kahden täydentävän vaiheen kautta: - Taaksepäin suuntautuva päättely: Se havaitsee vaarallisia kaavoja tai trendejä viimeaikaisessa käyttäytymisessä. - Eteenpäin suuntautuva päättely: Se ennustaa, ylittääkö seuraava siirto vaarakynnyksen kontekstin perusteella. Se ymmärtää, että "turvallinen" on tilannekohtaista. Mikroaaltouunin päällekytkeminen on ok, ellei sisällä ole metallikelloa. testeissä RoboSafe vähensi vaarallisia vaikutuksia ~37 % pilaamatta agentin tuottavuutta Opetus on, että meidän täytyy lopettaa peukkujen ristissä pitäminen ja toivominen, että tekoäly "käyttäytyy". Todellinen turvallisuus tarkoittaa hyväksymistä, että agentit ovat arvaamattomia ja rakennetaan järjestelmiä, jotka olettavat heidän epäonnistuvan. Suojakaiteet > hyvät aikomukset. 🤖🛡️