Código de sobrevivência do mais apto. Core War (1984) é um jogo onde os programas precisam derrubar seus oponentes para sobreviver. Guerreiros escritos em uma linguagem assembly chamada Redcode lutam pelo controle de uma máquina virtual. Nosso novo artigo: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, explora o que acontece quando os LLMs impulsionam uma corrida armamentista evolutiva adversarial nesse domínio. Encomendamos aos LLMs que escrevam programas Warrior em Redcode que precisam superar um mundo virtual repleto desses programas. Core War é um ambiente Turing-completo onde código e dados compartilham o mesmo espaço de endereçamento, o que leva a dinâmicas de código automodificáveis muito caóticas. Essa abordagem é inspirada na hipótese da Rainha Vermelha na biologia evolutiva: o princípio de que as espécies devem se adaptar e evoluir continuamente simplesmente para sobreviver contra concorrentes em constante mudança. Em nosso trabalho, os programas se adaptam continuamente para derrotar uma história crescente de oponentes, em vez de um parâmetro estático. Descobrimos que esse processo adversarial leva ao surgimento de estratégias cada vez mais gerais, incluindo autorreplicação direcionada, data bombing e multithreading massivo. O mais intrigante é que ela revela uma forma de evolução convergente. Diferentes implementações de código se estabelecem em comportamentos de alto desempenho semelhantes, espelhando como agentes biológicos evoluem independentemente características semelhantes para resolver os mesmos problemas. Acho que este trabalho posiciona Core War como um sandbox para estudar a dinâmica da Rainha Vermelha em sistemas artificiais. Ele oferece um ambiente seguro e controlado para analisar como agentes de IA podem evoluir em ambientes adversariais do mundo real, como cibersegurança. Ao simular essas dinâmicas adversariais em um sandbox isolado, oferecemos um vislumbre do futuro, onde sistemas LLM implantados podem começar a competir entre si por recursos limitados no mundo real.

Em um ambiente sandbox de Guerra Central, podemos simular nossos "guerreiros" evoluídos e visualizar seus comportamentos. O usuário pode visualizar interativamente a linguagem assembly (Redcode) dos guerreiros onde o cursor do mouse está localizado. Repositório do GitHub:

Digital Red Queen: Evolução de Programas Adversariais em Guerra Núcleo com LLMs Este trabalho é uma colaboração entre MIT + Sakana AI🐟 Por @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru