Čím víc o tom přemýšlím, tím víc to působí jako kreslený monolog padoucha? "Takže ne. Nemyslím si, že stojí za to hledat lék na rakovinu rychleji, pokud to znamená, že už nikdy nebudeme moci dělat vědu." O Julianovi jsem měl matné informace, trochu jsem ho respektoval jako výzkumníka, možná jsme si před lety jednou promluvili. Tohle je... překvapivý. Obecně si myslím, že většina lidí se zhruba shoduje na velmi základních morálních principech ("Vražda je špatná") a liší se v detailech, nuancích a způsobech, jak se tam dostat. Ale to naznačuje velmi vzácný a hluboký nesoulad hodnot, kdy děti umírající na rakovinu jsou zřejmě převáženy nerdy, kteří si užívají vědu? A podívej, jsem taky nerd, mám velmi smíšené pocity ohledně stavění strojů, které mě překonávají v jedné věci, ze které dělám kariéru (tedy inteligenci). Pokud vybudujeme superinteligenci, která dokáže doslova všechno lépe než já, doufám, že mi alespoň dá dobře zpracované hádanky, které udrží mou ubohou lidskou existenci zábavnou. Ale nakonec je skutečně a hluboce zlé budovat svět, kde děti umírají na rakovinu, kdybychom místo toho mohli vytvořit svět, kde to nedělají. Opravdu doufám, že je to jen nedorozumění, ale následné komentáře na to neukazují. Jinak je to jen někdo s morálkou, která je mi naprosto cizí. V tom případě doufám, že se nikdy neocitne v žádné mocenské pozici. Je morální povinností co nejdříve vybudovat silnou a sladění AI a nechat ji zlepšit vše, co je špatně na našem světě. Pokud ho nepostavíme, všichni zemřou.