Minusta on uskomatonta, että "koodaus", kuten sitä aiemmin näimme, on pääosin ratkaistu tässä vaiheessa. Kuulin ensimmäisen kerran tekoälyn tuottaman koodin käsitteestä vuonna 2015, kun ystäväni aloitti työt startup-yrityksessä nimeltä @trygigster. Gigsterin koko idea oli olla alusta freelance-ohjelmistokehittäjien palkkaamiseen. Heidän suunnitelmansa oli käyttää näiden freelancerien kirjoittamaa koodia heidän neuroverkkojensa kouluttamiseen. Toiveena oli, että nämä mallit voisivat lopulta tuottaa koodia ja korvata freelance-kehittäjät kokonaan. Tuolloin syväoppiminen alkoi todella yleistyä (tämä oli ennen LLM:ien löytämistä), ja Gigsterin tiimi uskoi voivansa hyödyntää uusinta tutkimusta – toistuvia neuroverkkoja (RNN) – kouluttaakseen koneen kirjoittamaan koodia itsenäisesti. Ongelma RNN:issä on, että ne tuottavat sekavaa, joka näyttää pätevältä koodilta, mutta ei oikeasti toimi. Niiltä puuttuu kyky ylläpitää laajoja konteksteja ja ne ovat hyvin hitaita kouluttaa, joten koodin automaattinen generointi ei ollut tuolloin mahdollista. Kymmenen vuotta myöhemmin kaikki, mitä Gigster yritti tehdä, on nyt kaikkien saatavilla. Anthropicin, Googlen ja OpenAI:n edistysaskeleet koodin generoinnissa ovat hämmästyttäviä, jos katsoo ulospäin. Se, mitä luulin olevan vain haaveilua, on nyt todellisuutta.