Roboti jsou neuvěřitelní, dokud jeden špatný úder nevyrazí zuby. a... Mám rád své zuby. 🦷 proto je RoboSafe zásadní změnou hry. Výzkumníci představili nový bezpečnostní rámec, který má zabránit fyzickému poškození dříve, než k němu dojde. Je to v podstatě reálný časový "zábrana" pro fyzický svět. na rozdíl od statického kódu běží RoboSafe paralelně s agentem a vyhodnocuje každý pohyb prostřednictvím dvou doplňujících se kroků: - Zpětné uvažování: Detekuje nebezpečné vzorce nebo trendy v nedávném chování. - Forward argumenting: Předpovídá, zda další tah překročí nebezpečný prah na základě kontextu. Chápe, že "bezpečné" je situace. Zapnutí mikrovlnky je v pořádku, pokud uvnitř nejsou kovové hodinky. v testech RoboSafe snížil počet nebezpečných akcí o ~37 %, aniž by zničil produktivitu agenta Poučení je, že musíme přestat držet palce a doufat, že AI "bude fungovat". Skutečná bezpečnost znamená přijmout, že agenti jsou nepředvídatelní, a budovat systémy, které předpokládají, že selžou. Zábrany > dobré úmysly. 🤖🛡️