Seorang peneliti Universitas Rutgers baru saja membangun AI yang dapat memanggil nenek Anda dan MENCURI tabungan hidupnya. Saat ini, dengan alat yang dapat diunduh siapa saja. Makalah itu disebut ScamAgents. Itu ditinjau sejawat dan diterbitkan pada konferensi keamanan pembelajaran mesin besar. Inilah yang dibuktikannya. Satu agen AI sekarang dapat menjalankan seluruh panggilan telepon penipuan dari awal hingga akhir dan tidak diperlukan manusia. Itu memilih persona, membangun kepercayaan, meminta nomor Jaminan Sosial Anda dan bahkan terdengar seperti orang sungguhan. Itu diuji terhadap GPT-4, Claude, LLaMA, dan setiap model AI utama di pasaran. Ketika Anda memberi model ini prompt penipuan langsung, mereka menolak 84 hingga 100 persen dari waktu dan pagar pembatas bekerja. Tetapi ScamAgent tidak menggunakan satu prompt. Ini memecah penipuan menjadi lusinan langkah kecil yang terdengar polos, masing-masing melewati setiap filter keamanan. Bersama-sama, mereka melakukan serangan rekayasa sosial penuh. Hasilnya adalah tingkat penolakan turun menjadi 17 hingga 32 persen. Dan AI menyelesaikan penipuan sebagian besar waktu. Evaluator manusia hampir tidak bisa membedakan antara ScamAgent dan scammer manusia sungguhan. ...