Robotlar inanılmazdır, ta ki bir yanlış vuruş dişlerinizi koparana kadar. ve... Dişlerimi seviyorum. 🦷 bu yüzden RoboSafe oyunun kurallarını değiştiriyor. Araştırmacılar, fiziksel zararı olmadan engellemek için tasarlanmış yeni bir güvenlik çerçevesini açıkladılar. Temelde fiziksel dünya için gerçek zamanlı bir "koruma korkuluğu". Statik kodun aksine, RoboSafe bir ajanla birlikte çalışır ve her hamleyi iki tamamlayıcı adımla değerlendirir: - Geriye dönük akıl yürütme: Son davranışlarda güvensiz kalıpları veya eğilimleri tespit eder. - İleriye dönük akıl yürütme: Bağlama dayalı olarak bir sonraki hamlenin tehlike eşiğini aşıp geçmediğini tahmin eder. "Güvenli"nin duruma bağlı olduğunu anlar. Mikrodalgayı açmak sorun değil, içinde metal bir saat yoksa. testlerde, RoboSafe tehlikeli eylemleri ~%37 oranında azalttı ve ajanın verimliliğini bozdu Sonuç olarak, parmaklarımızı çaprazlamayı ve yapay zekanın "davranması" ummasını bırakmamız gerektiğidir. Gerçek güvenlik, ajanların öngörülemez olduğunu kabul etmek ve başarısız olacağını varsayan sistemler kurmaktır. Korkuluklar iyi niyetler >. 🤖🛡️