كلما فكرت في هذا أكثر، كلما بدا وكأنه مونولوج شرير كرتوني؟ "إذا، لا. لا أعتقد أنه يستحق الأمر أن نجد علاجا للسرطان بسرعة أكبر إذا كان ذلك يعني أننا لن نستطيع ممارسة العلم مرة أخرى." كنت على دراية بجوليان بشكل غامض، واحترمه كباحث بشكل غامض، ربما تحدثنا مرة قبل عدة سنوات. هذا يكون... المستغرب. بشكل عام، أعتقد أن معظم الناس يتوافقون تقريبا على المبادئ الأخلاقية الأساسية جدا ("القتل أمر سيء"), ويختلفون في التفاصيل والفروق الدقيقة وكيفية الوصول إلى هناك. لكن هذا يشير إلى وجود تفاوت نادر وعميق في القيم، حيث يبدو أن الأطفال الذين يموتون بسبب السرطان يفوق عليهم المهووسون الذين يستمتعون بالعلم؟ وانظر، أنا أيضا مهووس، لدي مشاعر مختلطة جدا حول بناء آلات تتفوق علي في الشيء الوحيد الذي أبني منه مهنة (أي الذكاء). إذا بنينا ذكاء خارقا يمكنه فعل كل شيء حرفيا أفضل مني، آمل أن يمنحني على الأقل ألغازا مصممة بعناية لإبقاء وجودي البشري البسيط مستمتعا. لكن في النهاية، من الشر الحقيقي والعميق بناء عالم يموت فيه الأطفال بسبب السرطان، إذا استطعنا بدلا من ذلك بناء عالم لا يفعلون فيه ذلك. آمل حقا أن يكون هذا مجرد سوء فهم، لكن التعليقات اللاحقة لا تشير إلى هذا الاتجاه. وإلا فهو مجرد شخص لديه أخلاق غريبة جدا علي. في هذه الحالة آمل ألا يجد نفسه في أي موقع سلطة. من الضروري الأخلاقي بناء الذكاء الاصطناعي القوي والمتوافق في أقرب وقت ممكن، وأن يحسن كل ما هو خاطئ في عالمنا. إذا لم نبنها، يموت الجميع.