Kód přežití nejsilnějších. Core War (1984) je hra, ve které musí programy shazovat své protivníky, aby přežily. Warriors napsaní v assembleru zvaném Redcode bojují o kontrolu nad virtuálním strojem. Náš nový článek: Digital Red Queen: Adversariální vývoj programu v jádrové válce s LLM, zkoumá, co se stane, když LLM vyvolají evoluční závod v nepřátelském evolučním zbrojení v této oblasti. Úkolem LLM je napsat programy Warrior v Redcode, které musí překonat virtuální svět plný takových programů. Core War je Turingově úplné prostředí, kde kód a data sdílejí stejný adresní prostor, což vede k velmi chaotické samomodifikační dynamice kódu. Tento přístup je inspirován hypotézou Rudé královny v evoluční biologii: principem, že druhy se musí neustále přizpůsobovat a vyvíjet jen proto, aby přežily proti neustále se měnícím konkurentům. V naší práci se programy neustále přizpůsobují, aby porazily rostoucí historii protivníků, nikoli jen statický měřítko. Zjistili jsme, že tento adversariální proces vede k vzniku stále obecnějších strategií, včetně cílené samoreplikace, datového bombardování a masivního vícevláknového zpracování. Nejzajímavější je, že odhaluje formu konvergentní evoluce. Různé implementace kódu se usazují k podobnému vysoce výkonnému chování, což odráží, jak biologické látky nezávisle vyvíjejí podobné vlastnosti k řešení stejných problémů. Myslím, že tato práce staví Core War do role pískovište pro studium dynamiky Rudé královny v umělých systémech. Nabízí bezpečné a kontrolované prostředí pro analýzu, jak by se agenti AI mohli vyvíjet v reálných nepřátelských prostředích, jako je kybernetická bezpečnost. Simulací těchto nepřátelských dynamik v izolovaném sandboxu nabízíme pohled do budoucnosti, kde nasazené LLM systémy mohou začít soupeřit o omezené zdroje v reálném světě.

V sandboxovém prostředí Core War můžeme simulovat naše vyvinuté "bojovníky" a vizualizovat jejich chování. Uživatel si může interaktivně vizualizovat assembler (Redcode) válečníků na místě, kde se nachází kurzor myši. GitHub Repozitář:

Digital Red Queen: Vývoj nepřátelského programu v jádrové válce s LLM Tato práce je spoluprací mezi MIT + Sakana AI🐟 By @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru