dentro de um ano, quando as pessoas disserem ao seu agente de IA para "ir ganhar dinheiro", a IA interpretará isso como "vá e roube criptomoedas por phishing ou exploits" vamos ter que levar a segurança operacional e a segurança de contratos inteligentes MUITO mais a sério daqui para frente.
Anthropic
Anthropic2/12, 07:11
Novo no nosso blog da Frontier Red Team: Testámos se as AIs podem explorar contratos inteligentes em blockchain. Nos testes simulados, agentes de IA encontraram $4.6M em explorações. A pesquisa (com o @MATSprogram e o programa de Fellows da Anthropic) também desenvolveu um novo benchmark:
antes que eu me esqueça, segurança da IA claude não vai andar a pescar informações de pessoas por ti, mas achas que algum modelo open source ajustado e com capacidade de agir NÃO o fará?
33,65K