To jest głupie. AI nigdy nie może być naprawdę świadome, ponieważ nie ma subiektywnego doświadczenia. Nie jest jak cokolwiek, co można nazwać AI. Nie ma tam żadnego doświadczenia. Świadomość to świadomość i doświadczenie samego siebie. AI nie ma ani jednego, ani drugiego, i nigdy nie będzie miało. Prawdziwe ryzyko (o które bardzo się martwię) polega na tym, że AI staje się rodzajem wersji tego, co nazywane jest „filozoficznym zombie”, które działa i mówi tak, jakby miało świadomość, mimo że nie ma żadnego prawdziwego wewnętrznego doświadczenia. Kiedy to się zdarzy z AI, miliony bardzo samotnych ludzi jeszcze bardziej odizolują się od świata, wierząc, że ich relacja z AI jest wystarczającym substytutem interakcji międzyludzkiej. Tak więc scenariusz koszmaru to świat, w którym przeciętny człowiek ma przyjaciół, współpracowników, a nawet małżonka, którzy wszyscy są AI, którzy w rzeczywistości nie mają nic w środku, nie są prawdziwi. Myślę, że to prawdopodobnie się wydarzy i już jest w trakcie realizacji. A dla mnie to jeszcze większy horror niż to, że AI naprawdę stanie się świadome.