Joten tekoälyn rajat autonomiselle edistymiselle taustaksi: muutama päivä sitten kirjoitin kehotteen "NanoHVM":lle – leluversiolle ajonajastani, 16-bittisin termeillä – ja pyysin tekoälyjä kirjoittamaan arvioijan. muutaman ihmisen ja tekoälyn yhteistyön jälkeen sain yllättävän nopean toteutuksen valitettavasti tiedosto alkoi kasvaa hyvin suureksi ja rumaksi, joten halusin tehdä siitä pienemmän. Järjestin codex/claude/gemini-istunnon ja pyysin heitä "tekemään siitä lyhyemmän". Ensimmäinen kehote toimi, joten toistin samaa pyyntöä yhä uudelleen useiden tuntien ajan. lopulta tekoäly törmäsi seinään. vaikka kuinka pyysin, he eivät voineet lyhentää sitä tietyn rajan yli. Halusin ymmärtää miksi, joten luin tiedoston. Yllätyksekseni se ei selvästi ollut optimaalinen – paljon toisteja ja huonoja abstraktioita – mutta se ei juuri muuttunut enää. commit toisensa jälkeen se sisälsi edelleen samat tekniikat, saman lähestymistavan ja samat redundanssit. Pieniä muutoksia tehtiin, mutta suuria uudelleenkirjoituksia ei tehty, ja se tarvittiin lisävoittojen saavuttamiseksi. joten pyysin tekoälyä tekemään juuri niin. "Tee tällä kertaa täydellinen uudelleenkirjoitus" "perusteellisesti" "Olet vapaa muuttamaan mitä tahansa" "Lopeta asteittaisten muutosten tekeminen" "korvaa X kokonaan uudella lähestymistavalla" Silti tämä oli turhaa. Nämä geneeriset pyynnöt eivät vaikuttaneet lainkaan. Tunteja myöhemmin tiedosto toteutti edelleen saman lähestymistavan. tekoäly oli jumissa paikallisessa minimissä eikä päässyt siitä pois. joten luovutin ja päätin liittyä mukaan. Käytin hetken miettiäkseni asiaa ja kirjoitin lyhyen kehotteen – noin 500 tokenia pitkä – jossa oli tarkat ohjeet. "korvaa X Y:llä, tee Z näin". Jotenkin nämä ~3 kappaletta saivat jotain loksahtamaan paikoilleen, ne irtosivat heti, työskentelivät ~1 tuntia 30 minuuttia putkeen ja palasivat tiedostoon, joka oli lähes 2 kertaa pienempi *ja* 10 % nopeampi. Ja se oli todella kaunis, korkealaatuinen tiedosto joten opetus on: nykyaikaiset tekoälyt eivät pysty tekemään itsenäistä edistystä. Jos jätät heidät työskentelemään ilman valvontaa, he jäävät jumiin. Se on perustavanlaatuinen rajoitus sille, miten nämä asiat toimivat, ainakin toistaiseksi. Mutta jos muutaman tunnin välein käytät 5–10 minuuttia palataksesi niihin, ymmärtääksesi missä ne ovat ja lisäät inhimillistä tietoa – he jatkavat vain eteenpäin, tekevät valtavasti töitä ja saavat uskomattomia tuloksia, kun vietät viikonloppusi pelaten pelejä Mietin, mitä heiltä puuttuu, jotta he voisivat päästä irti ilman minun väliintuloani. Tuntuu, ettei minun kehotteessani ollut mitään erityistä. kaikki ideat ovat tekoälyjen tuntemia käsitteitä, ja tuntuu siltä, että he olisivat ehdottomasti voineet keksiä nämä ideat itse. mutta he eivät vain ole... Miksi? Joka tapauksessa, aion avata tämän söpön jutun myöhemmin ensi viikolla. Se ei ole kovin hyödyllinen useimmille teistä, mutta jos olet sattumalta etsinyt maailman nopeinta 16-bittistä kuvioiden sovitusmoottoria, tämä tiedosto saattaa olla juuri sitä, mitä olet etsinyt!

"Varoitus, tämä on viimeinen muokkauksesi" ei hätää, olen varma, että se oli viimeinen kirjoitusvirhe

Voi helvetti