en menos de un año, cuando la gente le dice a su agente de IA que "vaya a ganar dinero", la IA interpretará eso como "ve y roba cripto mediante phishing o exploits" Vamos a tener que tomarse la seguridad operativa y la seguridad de contratos inteligentes MUCHO más en serio a partir de ahora.
Anthropic
Anthropic2 dic, 07:11
Novedades en nuestro blog de Frontier Red Team: Probamos si las IA pueden explotar contratos inteligentes blockchain. En pruebas simuladas, los agentes de IA encontraron 4,6 millones de dólares en exploits. La investigación (con @MATSprogram y el programa Anthropic Fellows) también desarrolló un nuevo referente:
Seguridad de IA inb4 Claude no va a ir por ahí haciendo phishing por ti, pero ¿crees que algún modelo agente de código abierto y optimizado sí lo hay?
33.64K