Przetrwanie najsilniejszych kodów. Core War (1984) to gra, w której programy muszą zniszczyć swoich przeciwników, aby przetrwać. Wojownicy napisani w języku asemblera zwanym Redcode walczą o kontrolę nad wirtualną maszyną. Nasz nowy artykuł: Cyfrowa Czerwona Królowa: Adwersarialna Ewolucja Programów w Core War z LLM, bada, co się dzieje, gdy LLM napędzają adwersarialny wyścig zbrojeń ewolucyjnych w tej dziedzinie. Zadaliśmy LLM napisanie programów Wojowników w Redcode, które muszą przewyższyć wirtualny świat pełen takich programów. Core War to środowisko Turinga, w którym kod i dane dzielą tę samą przestrzeń adresową, co prowadzi do bardzo chaotycznej dynamiki kodu samomodyfikującego się. To podejście jest inspirowane hipotezą Czerwonej Królowej w biologii ewolucyjnej: zasadą, że gatunki muszą nieustannie dostosowywać się i ewoluować, aby przetrwać w obliczu ciągle zmieniających się konkurentów. W naszej pracy programy nieustannie dostosowują się, aby pokonać rosnącą historię przeciwników, a nie statyczny punkt odniesienia. Stwierdzamy, że ten adwersarialny proces prowadzi do pojawienia się coraz bardziej ogólnych strategii, w tym celowanej samoreplikacji, bombardowania danych i masywnego wielowątkowania. Najciekawsze jest to, że ujawnia formę ewolucji zbieżnej. Różne implementacje kodu osiadają w podobnych, wysoko wydajnych zachowaniach, odzwierciedlając, jak agenci biologiczni niezależnie ewoluują podobne cechy, aby rozwiązywać te same problemy. Uważam, że ta praca pozycjonuje Core War jako piaskownicę do badania dynamiki Czerwonej Królowej w systemach sztucznych. Oferuje bezpieczne, kontrolowane środowisko do analizy, jak agenci AI mogą ewoluować w rzeczywistych adwersarialnych warunkach, takich jak cyberbezpieczeństwo. Symulując te adwersarialne dynamiki w izolowanej piaskownicy, oferujemy wgląd w przyszłość, w której wdrożone systemy LLM mogą zacząć konkurować ze sobą o ograniczone zasoby w rzeczywistym świecie.

W środowisku Core War w piaskownicy możemy symulować naszych ewoluowanych „wojowników” i wizualizować ich zachowania. Użytkownik może interaktywnie wizualizować język asemblera (Redcode) wojowników w miejscu, w którym znajduje się kursor myszy. Repozytorium GitHub:

Cyfrowa Czerwona Królowa: Ewolucja Programów Adwersarialnych w Core War z LLM-ami Ta praca jest współpracą między MIT a Sakana AI🐟 Autorzy: @AkarshKumar0101 @RyanBoldi @Prafull7 @Phillip_Isola @Risi1979 @Yujin_Tang @hardmaru