dalam waktu setahun, ketika orang memberi tahu agen AI mereka untuk "menghasilkan uang", AI akan menafsirkannya sebagai "pergi dan mencuri kripto dengan phishing atau eksploitasi" Kita harus menanggapi OPSEC dan keamanan kontrak pintar JAUH lebih serius ke depan.
Anthropic
Anthropic2 Des, 07.11
Baru di blog Frontier Red Team kami: Kami menguji apakah AI dapat mengeksploitasi kontrak pintar blockchain. Dalam pengujian simulasi, agen AI menemukan eksploitasi sebesar $4,6 juta. Penelitian (dengan @MATSprogram dan program Anthropic Fellows) juga mengembangkan tolok ukur baru:
Keamanan AI inb4 Claude tidak akan mengelilingi orang phishing untuk Anda, tetapi menurut Anda apakah beberapa model agen open source yang disempurnakan WONT?
33,64K