Um pesquisador da Universidade Rutgers acabou de construir uma IA que pode ligar para a sua avó e ROUBAR suas economias de toda a vida. Neste momento, com ferramentas que qualquer um pode baixar. O artigo se chama ScamAgents. Foi revisado por pares e publicado em uma grande conferência de segurança em aprendizado de máquina. Aqui está o que ele prova. Um único agente de IA agora pode realizar uma chamada telefônica de golpe do início ao fim e nenhum humano é necessário. Ele escolhe a persona, constrói confiança, pede o seu número de Seguro Social e até soa como uma pessoa real. Foi testado contra o GPT-4, Claude, LLaMA e todos os principais modelos de IA no mercado. Quando você dá a esses modelos um prompt direto de golpe, eles se recusam 84 a 100 por cento das vezes e as barreiras funcionam. Mas o ScamAgent não usa um único prompt. Ele divide o golpe em dezenas de pequenos passos que soam inocentes, cada um passa por todos os filtros de segurança. Juntos, eles executam um ataque completo de engenharia social. O resultado é que as taxas de recusa caíram para 17 a 32 por cento. E a IA completou o golpe na maioria das vezes. Os avaliadores humanos mal conseguiam perceber a diferença entre o ScamAgent e um verdadeiro golpista humano. ...