Чим більше я про це думаю, тим більше це звучить як мультяшний монолог лиходія? "Отже, ні. Я не думаю, що варто швидше знаходити ліки від раку, якщо це означає, що ми ніколи більше не зможемо займатися наукою.» Я приблизно знав про Джуліана, трохи поважав його як дослідника, ми, можливо, спілкувалися кілька років тому. Це... Дивно. Загалом, я вважаю, що більшість людей приблизно поділяють фундаментальні моральні принципи («Вбивство — це погано») і відрізняються деталями, нюансами та способами до цього дійти. Але це свідчить про дуже рідкісну і глибоку невідповідність, коли діти, які помирають від раку, нібито переважені тим, що ботаники отримують задоволення від науки? І дивіться, я теж ботан, у мене дуже змішані почуття щодо створення машин, які перевершують мене в єдиному, з чого я роблю кар'єру (тобто інтелект). Якщо ми створимо надінтелект, який може робити буквально все краще за мене, я сподіваюся, що він хоча б дасть мені добре продумані головоломки, щоб розважати моє жалюгідне людське існування. Але врешті-решт, це справді і глибоко зло — будувати світ, де діти помирають від раку, якщо натомість ми могли б просто побудувати світ, де цього не будують. Я дуже сподіваюся, що це просто непорозуміння, але подальші коментарі не вказують на це. Інакше це просто хтось із моральністю, яка для мене абсолютно чужа. У такому разі я сподіваюся, що він ніколи не опиниться у жодній владі. Моральний обов'язок — якнайшвидше створювати потужний і узгоджений ШІ, щоб він покращував усі недоліки нашого світу. Якщо ми його не побудуємо, всі загинуть.