Überleben des Stärkeren Codes. Core War (1984) ist ein Spiel, in dem Programme ihre Gegner zum Absturz bringen müssen, um zu überleben. Krieger, die in einer Assemblersprache namens Redcode geschrieben sind, kämpfen um die Kontrolle einer virtuellen Maschine. Unser neues Papier: Digitale Rote Königin: Adversarielle Programmentwicklung in Core War mit LLMs, untersucht, was passiert, wenn LLMs einen adversarischen evolutionären Wettrüsten in diesem Bereich antreiben. Wir beauftragen LLMs, Kriegerprogramme in Redcode zu schreiben, die sich in einer virtuellen Welt voller solcher Programme behaupten müssen. Core War ist eine Turing-vollständige Umgebung, in der Code und Daten denselben Adressraum teilen, was zu sehr chaotischen, selbstmodifizierenden Code-Dynamiken führt. Dieser Ansatz ist inspiriert von der Roten Königin-Hypothese in der Evolutionsbiologie: dem Prinzip, dass Arten sich ständig anpassen und entwickeln müssen, um einfach gegen sich ständig verändernde Konkurrenten zu überleben. In unserer Arbeit passen sich Programme kontinuierlich an, um eine wachsende Geschichte von Gegnern zu besiegen, anstatt sich an einem statischen Maßstab zu orientieren. Wir stellen fest, dass dieser adversarische Prozess zur Entstehung zunehmend allgemeiner Strategien führt, einschließlich gezielter Selbstreplikation, Datenbombardierung und massivem Multithreading. Am interessantesten ist, dass er eine Form der konvergenten Evolution offenbart. Verschiedene Code-Implementierungen entwickeln sich zu ähnlichen leistungsstarken Verhaltensweisen, was widerspiegelt, wie biologische Agenten unabhängig ähnliche Eigenschaften entwickeln, um die gleichen Probleme zu lösen. Ich denke, diese Arbeit positioniert Core War als Sandbox für das Studium der Dynamik der Roten Königin in künstlichen Systemen. Sie bietet eine sichere, kontrollierte Umgebung zur Analyse, wie KI-Agenten sich in realen adversarischen Umgebungen wie der Cybersicherheit entwickeln könnten. Durch die Simulation dieser adversarischen Dynamiken in einer isolierten Sandbox bieten wir einen Einblick in die Zukunft, in der eingesetzte LLM-Systeme möglicherweise beginnen, gegeneinander um begrenzte Ressourcen in der realen Welt zu konkurrieren.

In einer sandboxed Core War-Umgebung können wir unsere entwickelten „Krieger“ simulieren und ihr Verhalten visualisieren. Der Benutzer kann die Assemblersprache (Redcode) der Krieger interaktiv visualisieren, an der Stelle, an der sich der Mauszeiger befindet. GitHub Repo:

Digitale Rote Königin: Adversarielle Programm-Evolution im Core War mit LLMs Diese Arbeit ist eine Zusammenarbeit zwischen MIT + Sakana AI🐟 Von @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru