Một nhà nghiên cứu từ Đại học Rutgers vừa phát triển một AI có thể gọi điện cho bà của bạn và ĐÁNH CẮP tiết kiệm cả đời của bà. Hiện tại, với những công cụ mà bất kỳ ai cũng có thể tải xuống. Bài báo có tên là ScamAgents. Nó đã được đánh giá đồng nghiệp và công bố tại một hội nghị lớn về an ninh học máy. Dưới đây là những gì nó chứng minh. Một đại lý AI duy nhất giờ đây có thể thực hiện một cuộc gọi lừa đảo hoàn chỉnh từ đầu đến cuối mà không cần con người. Nó chọn nhân vật, xây dựng lòng tin, yêu cầu số An sinh xã hội của bạn và thậm chí nghe giống như một người thật. Nó đã được thử nghiệm với GPT-4, Claude, LLaMA và mọi mô hình AI lớn trên thị trường. Khi bạn đưa cho những mô hình này một yêu cầu lừa đảo trực tiếp, chúng từ chối từ 84 đến 100 phần trăm thời gian và các biện pháp bảo vệ hoạt động hiệu quả. Nhưng ScamAgent không sử dụng một yêu cầu nào. Nó chia nhỏ lừa đảo thành hàng chục bước nhỏ, nghe có vẻ vô hại, mỗi bước đều vượt qua mọi bộ lọc an toàn. Cùng nhau, chúng thực hiện một cuộc tấn công kỹ thuật xã hội hoàn chỉnh. Kết quả là tỷ lệ từ chối giảm xuống còn 17 đến 32 phần trăm. Và AI đã hoàn thành lừa đảo hầu hết thời gian. Các đánh giá viên con người gần như không thể phân biệt được ScamAgent và một kẻ lừa đảo con người thật. ...