Myönnän, että olen maallikko. En ymmärrä, miten teknologia toimii. Mutta se, mikä minusta on yllättävintä ja rehellisesti sanottuna pelottavinta tekoälyssä sen nykyisessä kehitysvaiheessa, on sen kyky ilmeisesti ymmärtää. Voit juuri nyt syöttää tekoälylle laillisen sopimuksen, ja se lukee koko asiakirjan ja antaa yksityiskohtaisen lakimiehellisen analyysin 30 sekunnissa. Vielä yllättävämpää on, että voit syöttää sille kokonaisen elokuvakäsikirjoituksen, joka lukee koko elokuvan ja antaa luovaa palautetta, jopa poimien alatekstejä, teemoja ja yksittäisiä hahmojen hetkiä, ja tekee kaiken minuutissa. Se ei edes tunnu mahdolliselta, mutta siihen se pystyy. Se on se hämmentävä juttu. Ja vielä huolestuttavampaa on, ettei kukaan oikeastaan täysin ymmärrä, miten asia pystyy ymmärtämään.

Kokeilin tätä vanhalla kirjasopimuksella vuosia sitten. Voin vain sanoa, että 30 sekunnissa se havaitsi kaikki ne asiat, jotka ihmislakimieheni huomasi, ja muutamia asioita, joita hän ei huomannut.

Tiedän, että vastaus on, että tekoäly ei oikeastaan "ymmärrä" samalla tavalla kuin tietoiset olennot. Ja kai se on totta. Mutta missä vaiheessa ymmärryksen ja ymmärryksen ulkonäön välinen ero alkaa romahtaa? Kukaan ei oikeastaan tiedä vastausta siihen. Ja silti etenemme silti.