Robot thật tuyệt vời cho đến khi một cú đánh sai làm bạn mất răng. và... tôi thích những chiếc răng của mình. 🦷 đó là lý do tại sao RoboSafe là một bước đột phá. Các nhà nghiên cứu đã công bố một khung an toàn mới được thiết kế để ngăn chặn tổn hại vật lý trước khi nó xảy ra. Nó về cơ bản là một "rào chắn" theo thời gian thực cho thế giới vật lý. khác với mã tĩnh, RoboSafe chạy song song với một tác nhân, đánh giá từng động tác thông qua hai bước bổ sung: - Lý luận ngược: Nó phát hiện các mẫu hoặc xu hướng không an toàn trong hành vi gần đây. - Lý luận tiến: Nó dự đoán xem động tác tiếp theo có vượt qua ngưỡng nguy hiểm dựa trên ngữ cảnh hay không. nó hiểu rằng "an toàn" là tình huống. Bật lò vi sóng thì không sao, trừ khi có một chiếc đồng hồ kim loại bên trong. trong các thử nghiệm, RoboSafe đã giảm thiểu các hành động nguy hiểm khoảng 37% mà không làm giảm năng suất của tác nhân. Điều rút ra là chúng ta cần ngừng việc chỉ biết cầu nguyện và hy vọng rằng AI "hành xử đúng mực." An toàn thực sự có nghĩa là chấp nhận rằng các tác nhân là không thể đoán trước và xây dựng các hệ thống giả định rằng chúng sẽ thất bại. Rào chắn > Ý định tốt. 🤖🛡️