więc na granicach AI dla autonomicznego postępu dla kontekstu: kilka dni temu napisałem prompt dla "NanoHVM" - zabawkowej wersji mojego środowiska uruchomieniowego, z 16-bitowymi terminami - i poprosiłem AI o napisanie ewaluatora. po kilku pętlach współpracy człowiek-AI, otrzymałem zaskakująco szybką implementację niestety, plik stawał się bardzo duży i brzydki, więc chciałem go zmniejszyć. założyłem sesję codex/claude/gemini i poprosiłem ich, aby "zrobili to krótszym". pierwszy prompt zadziałał, więc powtarzałem tę samą prośbę, w kółko, przez kilka godzin. w końcu AI napotkało ścianę. niezależnie od tego, jak bardzo prosiłem, nie mogły skrócić go poniżej pewnego progu. chciałem zrozumieć dlaczego, więc przeczytałem plik. ku mojemu zaskoczeniu, wyraźnie nie był optymalny - mnóstwo redundancji i złych abstrakcji - a jednak, ledwo się zmieniał. commit za commitem, wciąż zawierał te same techniki, to samo podejście i te same redundancje. były tylko małe poprawki, ale nie miało miejsca żadne większe przepisanie, a to było potrzebne do dalszych zysków. więc poprosiłem AI, aby to zrobiło. "zrób pełne przepisanie tym razem" "rozważ to fundamentalnie" "jesteś wolny, aby zmienić cokolwiek" "przestań robić zmiany inkrementalne" "zastąp X całkowicie nowym podejściem" i jednak, to było daremne. te ogólne prośby nie miały żadnego efektu. godziny później, plik wciąż implementował to samo podejście. AI utknęło w lokalnym minimum i nie mogło się z niego wydostać. więc się poddałem i postanowiłem dołączyć. Poświęciłem kilka minut na przemyślenie tego i napisałem krótki prompt - około 500 tokenów - z konkretnymi wskazówkami. "zastąp X przez Y, zrób Z w ten sposób". w jakiś sposób te ~3 akapity sprawiły, że coś zaskoczyło, natychmiast się odblokowali, pracowali przez ~1h30m bez przerwy i wrócili z plikiem, który był prawie 2x mniejszy *i* 10% szybszy. i był to naprawdę piękny, wysokiej jakości plik więc, myślę, że lekcja jest taka: nowoczesne AI nie mogą dokonywać autonomicznego postępu. jeśli zostawisz je do pracy bez nadzoru, utkną. to fundamentalne ograniczenie tego, jak te rzeczy działają, przynajmniej na razie. jednak, jeśli co kilka godzin poświęcisz 5-10 minut, aby je odwiedzić, zrozumieć, gdzie są, i wprowadzić trochę ludzkiej wiedzy - wtedy będą po prostu kontynuować, wykonując ogromne ilości pracy i osiągając niesamowite wyniki, podczas gdy ty spędzasz weekend grając w gry zastanawiam się, co im brakuje, aby mogły się odblokować bez mojej interwencji. wydaje się, że mój prompt nie miał nic specjalnego. wszystkie pomysły w nim to koncepcje, które te AI znają, i wydaje się, że absolutnie mogłyby wymyślić te pomysły same. a jednak, po prostu nie... dlaczego? w każdym razie, planuję udostępnić ten uroczy projekt później w przyszłym tygodniu. nie jest to dokładnie przydatne dla większości z was, ale jeśli, przypadkiem, szukaliście najszybszego silnika dopasowywania wzorców 16-bitowych na świecie, ten plik może być dokładnie tym, czego szukaliście!

"uwaga, to jest twoja ostatnia edycja" nie martw się, jestem pewny, że to była ostatnia literówka

o, kurwa