Survival of the fittest-koden. Core War (1984) er et spill hvor programmer må krasje motstanderne sine for å overleve. Krigere skrevet i et assemblerspråk kalt Redcode kjemper om kontrollen over en virtuell maskin. Vår nye artikkel: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, utforsker hva som skjer når LLM-er driver et motstanderaktig evolusjonært våpenkappløp på dette området. Vi gir LLM-er i oppgave å skrive Warrior-programmer i Redcode som må konkurrere ut en virtuell verden full av slike programmer. Core War er et Turing-komplett miljø hvor kode og data deler samme adresseområde, noe som fører til svært kaotisk selvmodifiserende kodedynamikk. Denne tilnærmingen er inspirert av Red Queen-hypotesen i evolusjonsbiologien: prinsippet om at arter kontinuerlig må tilpasse seg og utvikle seg bare for å overleve stadig skiftende konkurrenter. I vårt arbeid tilpasser programmer seg kontinuerlig for å beseire en økende historie med motstandere, i stedet for en statisk målestokk. Vi finner at denne motsetningsfulle prosessen fører til fremveksten av stadig mer generelle strategier, inkludert målrettet selvreplikasjon, databombing og massiv multitråding. Det mest interessante er at det avslører en form for konvergent evolusjon. Ulike kodeimplementasjoner ender opp i lignende høytytende atferd, og speiler hvordan biologiske agenter uavhengig utvikler lignende egenskaper for å løse de samme problemene. Jeg mener dette arbeidet posisjonerer Core War som en sandkasse for å studere Red Queen-dynamikk i kunstige systemer. Den tilbyr et trygt kontrollert miljø for å analysere hvordan AI-agenter kan utvikle seg i virkelige, motstridende situasjoner som cybersikkerhet. Ved å simulere disse motsetningsdynamikkene i en isolert sandkasse, gir vi et glimt inn i fremtiden hvor implementerte LLM-systemer kan begynne å konkurrere om begrensede ressurser i den virkelige verden.

I et sandkassebasert Core War-miljø kan vi simulere våre utviklede «krigere» og visualisere deres atferd. Brukeren kan interaktivt visualisere assemblerspråket (Redcode) til krigerne der musepekeren er plassert. GitHub Repo:

Digital Red Queen: Utvikling av et motstridende program i kjernekrig med LLM-er Dette arbeidet er et samarbeid mellom MIT + Sakana AI🐟 Av @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru