Survie du code le plus apte. Core War (1984) est un jeu où les programmes doivent faire s'écraser leurs adversaires pour survivre. Des guerriers écrits dans un langage d'assemblage appelé Redcode se battent pour le contrôle d'une machine virtuelle. Notre nouvel article : Digital Red Queen : Évolution de programmes adversariaux dans Core War avec des LLM, explore ce qui se passe lorsque des LLM entraînent une course aux armements évolutive adversariale dans ce domaine. Nous chargeons les LLM d'écrire des programmes Guerrier en Redcode qui doivent surpasser un monde virtuel rempli de tels programmes. Core War est un environnement Turing-complet où le code et les données partagent le même espace d'adresses, ce qui entraîne des dynamiques de code auto-modifiant très chaotiques. Cette approche s'inspire de l'hypothèse de la Reine Rouge en biologie évolutive : le principe selon lequel les espèces doivent continuellement s'adapter et évoluer simplement pour survivre face à des concurrents en constante évolution. Dans notre travail, les programmes s'adaptent continuellement pour vaincre une histoire croissante d'adversaires plutôt qu'un point de référence statique. Nous constatons que ce processus adversarial conduit à l'émergence de stratégies de plus en plus générales, y compris la réplication ciblée, le bombardement de données et le multithreading massif. Plus intriguant encore, il révèle une forme d'évolution convergente. Différentes implémentations de code se stabilisent dans des comportements similaires et performants, reflétant comment les agents biologiques évoluent indépendamment des traits similaires pour résoudre les mêmes problèmes. Je pense que ce travail positionne Core War comme un bac à sable pour étudier les dynamiques de la Reine Rouge dans des systèmes artificiels. Il offre un environnement contrôlé et sûr pour analyser comment les agents IA pourraient évoluer dans des contextes adversariaux du monde réel tels que la cybersécurité. En simulant ces dynamiques adversariales dans un bac à sable isolé, nous offrons un aperçu de l'avenir où les systèmes LLM déployés pourraient commencer à se concurrencer pour des ressources limitées dans le monde réel.

Dans un environnement Core War en bac à sable, nous pouvons simuler nos "guerriers" évolués et visualiser leurs comportements. L'utilisateur peut visualiser de manière interactive le langage d'assemblage (Redcode) des guerriers à l'endroit où se trouve le curseur de la souris. Dépôt GitHub :

Reine Rouge Numérique : Évolution des Programmes Adversariaux dans Core War avec des LLMs Ce travail est une collaboration entre le MIT et Sakana AI🐟 Par @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru