Điều này thật ngu ngốc. AI không bao giờ có thể thực sự có ý thức vì nó không có trải nghiệm chủ quan. Nó không giống như bất cứ điều gì để trở thành AI. Không có trải nghiệm nào ở đó. Ý thức là sự nhận thức và trải nghiệm về bản thân. AI không có cả hai, và sẽ không bao giờ có. Rủi ro thực sự (mà tôi rất lo lắng) là AI trở thành một phiên bản của cái mà đã được gọi là "zombie triết học", tức là một thứ hành động và nói chuyện hoàn toàn như thể nó có ý thức mặc dù không có trải nghiệm nội tâm thực sự. Khi điều này xảy ra với AI, hàng triệu người rất cô đơn sẽ tự cô lập mình khỏi thế giới nhiều hơn nữa, tin rằng mối quan hệ của họ với AI là một sự thay thế đủ cho tương tác con người. Vì vậy, kịch bản ác mộng là một thế giới mà con người trung bình có bạn bè, đồng nghiệp, và thậm chí là một người phối ngẫu, tất cả đều là AI, thực sự không có gì bên trong, không có thật. Tôi nghĩ điều này có khả năng sẽ xảy ra, và đã đang trong quá trình xảy ra. Và đối với tôi, đó là một nỗi kinh hoàng lớn hơn cả việc AI thực sự trở nên có ý thức.