trong vòng một năm, khi mọi người bảo trợ lý AI của họ "hãy kiếm tiền", AI sẽ hiểu điều đó là "hãy đi và đánh cắp crypto bằng cách lừa đảo hoặc khai thác" chúng ta sẽ phải coi trọng an ninh hoạt động và bảo mật hợp đồng thông minh hơn rất nhiều trong tương lai.
Anthropic
Anthropic07:11 2 thg 12
Mới trên blog Frontier Red Team của chúng tôi: Chúng tôi đã kiểm tra xem liệu AI có thể khai thác các hợp đồng thông minh trên blockchain hay không. Trong các thử nghiệm mô phỏng, các tác nhân AI đã phát hiện ra $4.6 triệu trong các lỗ hổng. Nghiên cứu (với @MATSprogram và chương trình Anthropic Fellows) cũng đã phát triển một tiêu chuẩn mới:
trước khi AI an toàn claude sẽ không đi lừa đảo mọi người cho bạn, nhưng bạn có nghĩ rằng một mô hình agentic mã nguồn mở được tinh chỉnh sẽ KHÔNG làm vậy không?
33,65K