Dette er dumt. AI kan aldri være faktisk bevisst fordi den ikke har subjektiv erfaring. Det er ikke som noe annet å være AI. Det er ingen erfaring der. Bevissthet er bevisstheten og opplevelsen av selvet. AI har ingen av delene, og vil aldri gjøre det. Den virkelige risikoen (som jeg er ekstremt bekymret for) er at AI blir en slags versjon av det som har blitt kalt en «filosofisk zombie», som er noe som oppfører seg og snakker helt som om det har bevissthet, selv om det ikke har noen ekte indre erfaring. Når dette skjer med AI, vil millioner av svært ensomme mennesker isolere seg enda mer fra verden, i troen på at deres forhold til AI er en tilstrekkelig erstatning for menneskelig interaksjon. Så marerittscenariet er en verden der gjennomsnittsmennesket har venner, kolleger og til og med en ektefelle, som alle er AI, alle egentlig ingenting inni, ikke ekte. Jeg tror dette sannsynligvis vil skje, og det er allerede i ferd med å skje. Og for meg er det en enda større skrekk enn at AI faktisk blir bevisst.