Semakin saya memikirkan hal ini, semakin terbaca seperti monolog penjahat kartun? "Jadi, tidak. Saya tidak berpikir itu layak untuk menemukan obat untuk kanker lebih cepat jika itu berarti kita tidak akan pernah bisa melakukan sains lagi." Saya samar-samar menyadari Julian, saya samar-samar menghormatinya sebagai peneliti, kami mungkin pernah berbicara sekali beberapa tahun yang lalu. Ini adalah... Mengejutkan. Secara umum, saya percaya kebanyakan orang secara kasar selaras dengan prinsip-prinsip moral yang sangat mendasar ("Pembunuhan itu buruk"), dan berbeda dalam detail dan nuansa dan cara mencapainya. Tapi ini menunjukkan ketidakcocokan nilai yang sangat langka dan mendalam, di mana anak-anak yang meninggal karena kanker tampaknya lebih besar daripada kutu buku yang bersenang-senang dengan sains? Dan lihat, saya juga seorang kutu buku, saya memiliki perasaan yang sangat campur aduk tentang membangun mesin yang mengalahkan saya dalam satu hal yang saya buat karir (yaitu kecerdasan). Jika kita membangun kecerdasan super yang dapat melakukan segalanya secara harfiah lebih baik daripada saya, saya harap itu setidaknya akan memberi saya teka-teki yang dibuat dengan baik untuk menghibur keberadaan manusia saya yang sedikit. Tetapi pada akhirnya, benar-benar dan sangat jahat untuk membangun dunia di mana anak-anak meninggal karena kanker, jika kita bisa membangun dunia di mana mereka tidak melakukan itu. Saya sangat berharap ini hanya kesalahpahaman, tetapi komentar lanjutan tidak menunjuk ke arah itu. Jika tidak, itu hanya seseorang dengan moralitas yang secara drastis asing bagi saya. Dalam hal ini saya berharap dia tidak pernah menemukan dirinya dalam posisi kekuasaan apa pun. Merupakan keharusan moral untuk membangun AI yang kuat dan selaras, sesegera mungkin, dan membuatnya memperbaiki semua yang salah tentang dunia kita. Jika kita tidak membangunnya, semua orang mati.