Càng nghĩ về điều này, tôi càng thấy nó giống như một bài độc thoại của nhân vật phản diện trong phim hoạt hình? "Vì vậy, không. Tôi không nghĩ rằng việc tìm ra phương pháp chữa trị ung thư nhanh hơn là đáng giá nếu điều đó có nghĩa là chúng ta không bao giờ có thể làm khoa học nữa." Tôi đã mơ hồ biết về Julian, tôi mơ hồ tôn trọng anh ấy như một nhà nghiên cứu, có thể chúng tôi đã nói chuyện một lần cách đây vài năm. Điều này... thật bất ngờ. Nói chung, tôi tin rằng hầu hết mọi người đều có sự đồng thuận về những nguyên tắc đạo đức cơ bản nhất ("Giết người là xấu"), và khác nhau ở những chi tiết và sắc thái cũng như cách để đạt được điều đó. Nhưng điều này cho thấy một sự không tương thích giá trị rất hiếm và sâu sắc, nơi mà trẻ em chết vì ung thư dường như không quan trọng bằng việc những người đam mê khoa học vui vẻ? Và nhìn xem, tôi cũng là một người đam mê, tôi có cảm xúc rất lẫn lộn về việc xây dựng những cỗ máy vượt trội hơn tôi trong lĩnh vực mà tôi đang xây dựng sự nghiệp (tức là trí tuệ). Nếu chúng ta xây dựng một siêu trí tuệ có thể làm mọi thứ tốt hơn tôi, tôi hy vọng nó sẽ ít nhất mang đến cho tôi những câu đố được thiết kế tinh tế để giữ cho sự tồn tại tầm thường của tôi được giải trí. Nhưng cuối cùng, thật sự và sâu sắc là điều ác khi xây dựng một thế giới nơi trẻ em chết vì ung thư, nếu thay vào đó chúng ta có thể chỉ xây dựng một thế giới mà họ không phải chịu điều đó. Tôi thực sự hy vọng đây chỉ là một sự hiểu lầm, nhưng những bình luận tiếp theo không chỉ ra điều đó. Nếu không, thì đó chỉ là một người có đạo đức hoàn toàn xa lạ với tôi. Trong trường hợp đó, tôi hy vọng anh ấy không bao giờ tìm thấy mình ở bất kỳ vị trí quyền lực nào. Đó là một nghĩa vụ đạo đức để xây dựng AI mạnh mẽ và đồng nhất, càng sớm càng tốt, và để nó cải thiện tất cả những gì sai trái trong thế giới của chúng ta. Nếu chúng ta không xây dựng nó, mọi người sẽ chết.