AI-assistert koding kan absolutt være en drivende funksjon for 10x produktivitet. Det lar folk bevege seg mye raskere og slippe mye av den kjedelige friksjonen. Men dagens modeller gjør fortsatt feil. De kan være selvsikkert feil. De kan bli lurt. Og de kan lett generere kode som personen som presser den egentlig ikke forstår. Det er her dette blir farlig. Hvis du leverer kritiske systemer, spesielt i stor skala, må du forstå koden du pusher. Finansielle tjenester er det åpenbare eksempelet. Ville du ønsket at AI-avfall ble presset inn i noe som holder hele nettoformuen din? Jeg ville ikke gjort det. Dette vil endre seg etter hvert som modellene blir bedre. De forbedrer seg raskt. Men akkurat nå bør vi være forsiktige. Mennesket i løkken trenger ikke å senke tempoet. AI kan fortsatt gjøre team dramatisk raskere for skriving, gjennomgang og iterasjon. Men for produksjonssystemer som betyr noe, bør det kreves minst to mennesker for å gjøre noe dårlig i stor skala. Veldig annerledes historie for et sideprosjekt eller proof of concept, for det er verdt.