Bunu düşündükçe o kadar çok çizgi film kötü adam monoloğu gibi mi okunuyor? "Yani, hayır. Eğer bir daha asla bilim yapamayacağımız anlamına geliyorsa, kansere daha hızlı bir tedavi bulmanın değdiğini düşünmüyorum." Julian'ın farkındaydım, ona bir araştırmacı olarak biraz saygı duyuyordum, birkaç yıl önce bir kez konuşmuş olabilirdik. Bu... şaşırtıcı. Genel olarak, çoğu insanın çok temel ahlaki ilkeler ("Cinayet kötü") konusunda kabaca aynı fikirde olduğuna ve detaylar, nüanslar ve oraya nasıl ulaşılacağı konusunda farklılık gösterdiğine inanıyorum. Ama bu, çok nadir ve derin bir değer uyumsuzluğunu gösteriyor; kanserden ölen çocuklar, bilimle eğlenen nerdler tarafından daha ağır basılmış gibi görünüyor? Ve bakın, ben de bir inekliyim, kariyer yaptığım tek şeyde (yani zeka) beni geride bırakan makineler inşa etmek konusunda çok karışık duygularım var. Eğer benden daha iyi her şeyi yapabilen bir süper zeka inşa edersek, en azından benim cılız insan varlığımı eğlendirmek için iyi hazırlanmış bulmacalar vermeyi umuyorum. Ama nihayetinde, çocukların kanserden öldüğü bir dünya inşa etmek gerçekten ve derin bir kötülük olur, eğer bunun yerine onların bunu yapmadığı bir dünya kurabilirsek. Umarım bu sadece bir yanlış anlamadır, ama takip yorumları o yöne işaret etmiyor. Aksi takdirde bana tamamen yabancı bir ahlakı olan biri olur. Bu durumda umarım kendini hiçbir güç pozisyonunda bulamaz. Güçlü ve uyumlu yapay zeka inşa etmek ahlaki bir zorunluluktur, mümkün olan en kısa sürede ve dünyamızdaki tüm yanlışları iyileştirmesini sağlamak. Eğer inşa etmezsek, herkes ölür.