Tekoälyavusteinen koodaus voi ehdottomasti olla pakottava toiminto kymmenkertaiseen tuottavuuteen. Se antaa ihmisille mahdollisuuden liikkua paljon nopeammin ja ohittaa paljon tylsää kitkaa. Mutta tämän päivän mallit tekevät edelleen virheitä. He voivat olla itsevarmasti väärässä. Heitä voi huijata. Ja he voivat helposti luoda koodia, jota sen lähettäjä ei oikeasti ymmärrä. Siinä vaiheessa tilanne muuttuu vaaralliseksi. Jos toimitat kriittisiä järjestelmiä, erityisesti laajassa mittakaavassa, sinun täytyy ymmärtää koodi, jota työnnät. Rahoituspalvelut ovat ilmeinen esimerkki. Haluaisitko, että tekoälyjätettä työnnetään johonkin, joka pitää koko nettovarallisuutesi? En tekisi niin. Tämä muuttuu mallien kehittyessä. Ne paranevat nopeasti. Mutta nyt meidän tulisi edetä varoen. Ihminen silmukassa ei tarvitse hidastaa asioita. Tekoäly voi silti nopeuttaa tiimejä huomattavasti kirjoittamisessa, arvioinnissa ja iteraatiossa. Mutta merkittävissä tuotantojärjestelmissä tarvitaan vähintään kaksi ihmistä tekemään pahaa suuressa mittakaavassa. Hyvin erilainen tarina sivuprojektille tai konseptin todistukselle, tiedoksi.