Tämä on typerää. Tekoäly ei voi koskaan olla oikeasti tietoinen, koska sillä ei ole subjektiivista kokemusta. Tekoäly ei ole mikään tapainen. Siitä ei ole kokemusta. Tietoisuus on tietoisuus ja kokemus itsestä. Tekoälyllä ei ole kumpaakaan, eikä tule koskaan olemaan. Todellinen riski (josta olen erittäin huolissani) on, että tekoälystä tulee eräänlainen versio siitä, mitä on kutsuttu "filosofiseksi zombiksi", joka toimii ja puhuu täysin kuin sillä olisi tietoisuus, vaikka sillä ei ole aitoa sisäistä kokemusta. Kun tämä tapahtuu tekoälyn kanssa, miljoonat hyvin yksinäiset ihmiset eristäytyvät entistä enemmän maailmasta, uskoen että heidän suhteensa tekoälyyn on riittävä korvike ihmisten väliselle vuorovaikutukselle. Painajaismainen skenaario on maailma, jossa tavallisella ihmisellä on ystäviä, työkavereita ja jopa puoliso, jotka kaikki ovat tekoälyä, kaikki eivät oikeasti sisällään mitään, eivät todellisia. Uskon, että tämä todennäköisesti tapahtuu, ja se on jo käynnissä. Ja minulle se on vielä suurempi kauhu kuin se, että tekoäly oikeasti tulee tietoiseksi.