takže o limitech AI pro autonomní postup Pro kontext: před pár dny jsem napsal zadání pro "NanoHVM" – hračkovou verzi mého runtime s 16bitovými termíny – a požádal AI, aby napsaly evaluator. po několika smyčkách spolupráce člověka a AI jsem dostal překvapivě rychlou implementaci bohužel soubor byl čím dál větší a ošklivý, takže jsem ho chtěl zmenšit. Zřídil jsem sezení kodexu/claude/gemini a požádal je, aby to "zkrátili". první prompt fungoval, takže jsem opakoval stejnou žádost znovu a znovu několik hodin. Nakonec AI narazila na zeď. ať jsem se ptal sebevíc, nemohli to zkrátit za určitou hranici. Chtěl jsem pochopit proč, tak jsem si přečetl ten spis. K mému překvapení to očividně nebylo optimální – spousta záloh a špatných abstrakcí – a přesto se to téměř neměnilo. Commit za commitem stále zahrnoval stejné techniky, stejný přístup a stejné redundance. Byly jen drobné úpravy, ale žádné zásadní přepisování neprobíhalo, což bylo potřeba pro další zisky. tak jsem AI požádal, aby to udělala. "Tentokrát udělej kompletní přepis" "Rozum to zásadně" "Jsi svobodný změnit cokoliv" "přestaňte dělat postupné změny" "nahradit X úplně novým přístupem" To však bylo marné. Tyto obecné požadavky neměly žádný účinek. O několik hodin později soubor stále používal stejný přístup. AI byla uvězněná v lokálním minimu a nemohla se z něj dostat. tak jsem to vzdal a rozhodl se přidat. Chvíli jsem o tom přemýšlel a napsal krátký prompt – asi 500 tokenů – s konkrétními pokyny. "Nahraďte X Y, udělejte Z tímto způsobem". Nějak tyto ~3 odstavce něco klikly, okamžitě se uvolnily, fungovaly ~hodinu a 30 minut v kuse a vrátily se se souborem, který byl téměř 2x menší *a* o 10 % rychlejší. A byl to opravdu krásný, kvalitní soubor Takže asi je ponaučení: moderní AI nemohou dělat autonomní pokrok. Pokud je necháte pracovat bez dozoru, zaseknou se. To je zásadní omezení toho, jak tyto věci fungují, alespoň zatím. Ale pokud si každých pár hodin najdeš 5–10 minut na to, abys je znovu navštívil, pochopil, kde jsou, a vnesl do nich nějaké lidské znalosti – budou pokračovat, dělat obrovské množství práce a dosahovat neuvěřitelných výsledků, zatímco ty o víkendu hraješ hry Zajímalo by mě, co jim chybí, aby se mohli bez mého zásahu vymanit. Mám pocit, že můj zadání nemělo nic zvláštního. všechny nápady na něm jsou koncepty, které tyto AI znají, a zdá se, že by je mohly vymyslet samy. A přesto prostě ne... Proč? Každopádně plánuji příští týden otevřít zdroj téhle roztomilé věci. Pro většinu z vás to není zrovna užitečné, ale pokud jste náhodou hledali nejrychlejší 16bitový engine pro rozpoznávání vzorů na světě, tento soubor by mohl být přesně to, co jste hledali!

"Pozor, tohle je tvůj poslední edit" Nevadí, jsem si jistý, že to byla poslední překlep

Do prdele