Cuanto más pienso en esto, más parece un monólogo de villano de dibujos animados. "Así que no. No creo que merezca la pena encontrar una cura para el cáncer más rápido si eso significa que nunca podremos volver a hacer ciencia." Tenía un conocimiento vago de Julian, le respetaba vagamente como investigador, quizá hablamos una vez hace algunos años. Esto es... sorprendente. En términos generales, creo que la mayoría de la gente está aproximadamente alineada en los principios morales más fundamentales ("El asesinato es malo"), y difieren en los detalles, matices y cómo llegar a ello. Pero esto indica un desajuste de valores muy raro y profundo, donde los niños que mueren de cáncer aparentemente son superados por frikis que se divierten con la ciencia. Y mira, yo también soy un friki, tengo sentimientos muy encontrados sobre construir máquinas que me superen en lo único que estoy haciendo carrera (es decir, la inteligencia). Si construimos una superinteligencia que pueda hacer literalmente todo mejor que yo, espero que al menos me dé puzles bien elaborados para entretener mi mísera existencia humana. Pero, en última instancia, es genuinamente y profundamente malvado construir un mundo donde mueran niños de cáncer, si en cambio pudiéramos construir un mundo donde no lo hagan. De verdad espero que esto sea solo un malentendido, pero los comentarios posteriores no apuntan en esa dirección. Por lo demás, es solo alguien con una moralidad que me resulta drásticamente ajena. En ese caso, espero que nunca se encuentre en ninguna posición de poder. Es un imperativo moral construir una IA poderosa y alineada, lo antes posible, y que mejore todo lo que está mal en nuestro mundo. Si no lo construimos, todos morirán.