Survival of the fittest-koden. Core War (1984) är ett spel där program måste krascha sina motståndare för att överleva. Krigare skrivna i ett assembler-språk kallat Redcode kämpar om kontrollen över en virtuell maskin. Vår nya artikel: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, utforskar vad som händer när LLM:er driver ett motståndarligt evolutionärt kapprustningsspel inom detta område. Vi ger LLM:er i uppdrag att skriva Warrior-program i Redcode som måste konkurrera ut en virtuell värld full av sådana program. Core War är en Turing-komplett miljö där kod och data delar samma adressutrymme, vilket leder till mycket kaotiska självmodifierande koddynamiker. Detta angreppssätt är inspirerat av Red Queen-hypotesen inom evolutionsbiologin: principen att arter ständigt måste anpassa sig och utvecklas bara för att överleva mot ständigt föränderliga konkurrenter. I vårt arbete anpassar sig program kontinuerligt för att besegra en växande historia av motståndare snarare än en statisk riktmärke. Vi finner att denna adversariella process leder till framväxten av allt mer generella strategier, inklusive riktad självreplikering, databombning och massiv multitrådning. Mest intressant är att den avslöjar en form av konvergent evolution. Olika kodimplementationer hamnar i liknande högpresterande beteenden, vilket speglar hur biologiska agenter oberoende utvecklar liknande egenskaper för att lösa samma problem. Jag tycker att detta arbete positionerar Core War som en sandlåda för att studera Red Queen-dynamik i artificiella system. Den erbjuder en säker, kontrollerad miljö för att analysera hur AI-agenter kan utvecklas i verkliga fientliga miljöer som cybersäkerhet. Genom att simulera dessa adversariella dynamiker i en isolerad sandlåda erbjuder vi en inblick i framtiden där implementerade LLM-system kan börja konkurrera med varandra om begränsade resurser i verkligheten.

I en sandboxad Core War-miljö kan vi simulera våra utvecklade "krigare" och visualisera deras beteenden. Användaren kan interaktivt visualisera assembly-språket (Redcode) för krigarna där muspekaren är placerad. GitHub-repo:

Digital Red Queen: Adversarial Program Evolution i Core War med LLM:er Detta arbete är ett samarbete mellan MIT + Sakana AI🐟 Av @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru