الافكار... مؤخرا واجهت صعوبة غريبة. التفكير طويل الأمد كان دائما طبيعيا بالنسبة لي، وهو شيء اعتدت على فعله بسهولة. الآن يبدو الأمر شبه مستحيل. لماذا؟ الذكاء الاصطناعي العام. كلما جلست لأخطط للمستقبل، أدرك نفس الشيء. نحن ننتظر لنرى من سيبني أول ذكاء اصطناعي اصطناعي، ومن يفعل ذلك سيمتلك العالم فعليا. هذا يجعل التخطيط طويل الأمد يبدو منفصلا عن الواقع. لا أعرف في أي عالم سأعيش فيه، لذلك لا أستطيع أن أثبت أي مستقبل بثقة. السباق هو آخر سباق هو AGI. نظام يمكنه أتمتة جميع المهام الذكية التي تحقق الأهداف يحول خالقها إلى شيء قريب من الإله. كيان واحد يكتسب القدرة على التفوق على الجميع في كل مجال. وهذا ينهي المنافسة. وهذا ينهي الاختيارية. المركز الثاني يصبح عبدا لرؤية من يصل أولا. لهذا السبب الحوافز المتعلقة بالذكاء الاصطناعي العام خطيرة للغاية. كل لاعب يدرك أن التردد هو طريق مباشر نحو الخضوع. هذا المنطق يفرض التسارع، ويدفع نحو الطرق المختصرة، ويمحو الحذر من الأمان. بمجرد أن يصبح السباق وجوديا للمنافسين، تتوقف الآثار الخارجية عن الأهمية. هناك أيضا العنصر البشري، وهو مسؤولية خاصة به. ...