Выживание наиболее приспособленных кодов. Core War (1984) — это игра, в которой программы должны разрушать своих противников, чтобы выжить. Воины, написанные на языке ассемблера под названием Redcode, сражаются за контроль над виртуальной машиной. Наша новая работа: Digital Red Queen: Adversarial Program Evolution in Core War with LLMs, исследует, что происходит, когда LLM управляют противостоящей эволюционной гонкой вооружений в этой области. Мы ставим перед LLM задачу написать программы Воина на Redcode, которые должны превзойти виртуальный мир, полный таких программ. Core War — это среда, полная возможностей Тьюринга, где код и данные разделяют одно и то же адресное пространство, что приводит к очень хаотичной динамике самореформирующегося кода. Этот подход вдохновлен гипотезой Красной Королевы в эволюционной биологии: принципом, согласно которому виды должны постоянно адаптироваться и эволюционировать, чтобы просто выжить против постоянно меняющихся конкурентов. В нашей работе программы постоянно адаптируются, чтобы победить растущую историю противников, а не статический эталон. Мы обнаруживаем, что этот противостоящий процесс приводит к появлению все более общих стратегий, включая целевую саморепликацию, бомбардировку данными и массовую многопоточность. Наиболее интригующе, это раскрывает форму сходственной эволюции. Разные реализации кода приходят к похожим высокоэффективным поведением, отражая то, как биологические агенты независимо развивают схожие черты для решения одних и тех же проблем. Я думаю, что эта работа позиционирует Core War как песочницу для изучения динамики Красной Королевы в искусственных системах. Она предлагает безопасную контролируемую среду для анализа того, как агенты ИИ могут эволюционировать в реальных противостоящих условиях, таких как кибербезопасность. Симулируя эти противостоящие динамики в изолированной песочнице, мы предлагаем взгляд в будущее, где развернутые системы LLM могут начать конкурировать друг с другом за ограниченные ресурсы в реальном мире.

В песочнице Core War мы можем смоделировать наших эволюционировавших "воинов" и визуализировать их поведение. Пользователь может интерактивно визуализировать ассемблерный язык (Redcode) воинов в том месте, где находится курсор мыши. Репозиторий на GitHub:

Цифровая Красная Королева: Эволюция Программ Противника в Ядре Войны с LLM Эта работа является сотрудничеством между MIT и Sakana AI🐟 Автор: @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru