Ju mer jag tänker på detta, desto mer känns det som en tecknad skurkmonolog? "Så, nej. Jag tycker inte det är värt att hitta ett botemedel mot cancer snabbare om det betyder att vi aldrig kan göra vetenskap igen." Jag var vagt medveten om Julian, jag respekterade honom vagt som forskare, vi kanske pratade en gång för några år sedan. Det här är... överraskande. Generellt sett tror jag att de flesta är ungefär överens om de allra grundläggande moraliska principerna ("Mord är dåligt"), och skiljer sig åt i detaljer, nyanser och hur man kommer dit. Men detta tyder på en mycket sällsynt och djup värdeskillnad, där barn som dör i cancer tydligen vägs upp av nördar som har roligt med vetenskap? Och titta, jag är också en nörd, jag har väldigt blandade känslor kring att bygga maskiner som konkurrerar ut mig i det enda jag gör karriär av (dvs. intelligens). Om vi bygger en superintelligens som kan göra bokstavligen allt bättre än jag, hoppas jag att den åtminstone ger mig välgjorda pussel för att hålla min usla mänskliga existens underhållen. Men i slutändan är det genuint och djupt ont att bygga en värld där barn dör i cancer, om vi istället bara kunde bygga en värld där de inte gör det. Jag hoppas verkligen att det bara är ett missförstånd, men följdkommentarer pekar inte i den riktningen. Annars är det bara någon med en moral som är drastiskt främmande för mig. I så fall hoppas jag att han aldrig hamnar i någon maktposition. Det är en moralisk plikt att bygga kraftfull och samordnad AI så snart vi kan, och få den att förbättra allt som är fel med vår värld. Om vi inte bygger den, dör alla.