так что о пределах ИИ для автономного прогресса для контекста: несколько дней назад я написал запрос для "NanoHVM" - игрушечной версии моего времени выполнения, с 16-битными терминами - и попросил ИИ написать оценщик. после нескольких циклов сотрудничества человека и ИИ я получил удивительно быструю реализацию. к сожалению, файл становился очень большим и неаккуратным, поэтому я хотел сделать его меньше. Я настроил сессию codex/claude/gemini и попросил их "сделать его короче". первый запрос сработал, поэтому я продолжал повторять ту же просьбу снова и снова в течение нескольких часов. в конечном итоге ИИ наткнулись на стену. сколько бы я ни спрашивал, они не могли сократить его ниже определенного порога. Я хотел понять, почему, поэтому прочитал файл. к моему удивлению, он явно не был оптимальным - куча избыточностей и плохих абстракций - тем не менее, он почти не изменялся. коммит за коммитом он все еще включал те же техники, тот же подход и те же избыточности. были только небольшие правки, но никакой серьезной переработки не происходило, а это было необходимо для дальнейших улучшений. поэтому я попросил ИИ сделать именно это. "сделай полную переработку на этот раз" "размышляй об этом фундаментально" "ты свободен менять что угодно" "перестань делать инкрементальные изменения" "замени X на совершенно новый подход" тем не менее, это было бесполезно. эти общие запросы не имели никакого эффекта. через несколько часов файл все еще реализовывал тот же подход. ИИ застрял в локальном минимуме и не мог выбраться из него. поэтому я сдался и решил присоединиться. Я потратил несколько минут, чтобы подумать об этом, и написал короткий запрос - около 500 токенов - с конкретными указаниями. "замени X на Y, сделай Z таким образом". как-то эти ~3 абзаца заставили что-то щелкнуть, они немедленно выбрались из застоя, работали около ~1ч30м подряд и вернулись с файлом, который был почти в 2 раза меньше *и* на 10% быстрее. и это был действительно красивый, качественный файл. так что, я думаю, урок таков: современные ИИ не могут делать автономный прогресс. если оставить их работать без присмотра, они застрянут. это фундаментальное ограничение того, как работают эти вещи, по крайней мере, на данный момент. однако, если каждые несколько часов вы потратите 5-10 минут, чтобы вернуться к ним, понять, где они находятся, и ввести немного человеческих знаний - тогда они просто продолжат, выполняя огромные объемы работы и достигая невероятных результатов, пока вы проводите выходные, играя в игры. Мне интересно, что им не хватает, чтобы они могли выбраться из застоя без моего вмешательства. кажется, что мой запрос не имел ничего особенного. все идеи в нем - это концепции, которые эти ИИ знают, и кажется, что они абсолютно могли бы придумать эти идеи сами. тем не менее, они просто не делают этого... почему? в любом случае, я планирую открыть исходный код этой милой вещи позже на следующей неделе. это не совсем полезно для большинства из вас, но если вы, случайно, искали самый быстрый 16-битный движок сопоставления шаблонов в мире, этот файл может быть именно тем, что вы искали!

"осторожно, это ваше последнее редактирование" не переживайте, я уверен, что это была последняя опечатка

ох, черт