الافكار... مؤخرا واجهت صعوبة غريبة. التفكير طويل الأمد كان دائما طبيعيا بالنسبة لي، وهو شيء اعتدت على فعله بسهولة. الآن يبدو الأمر شبه مستحيل. لماذا؟ الذكاء الاصطناعي العام. كلما جلست لأخطط للمستقبل، أدرك نفس الشيء. نحن ننتظر لنرى من سيبني أول ذكاء اصطناعي عام حقيقي، ومن يفعل ذلك سيسيملك العالم فعليا. هذا يجعل التخطيط طويل الأمد يبدو منفصلا عن الواقع. لا أعرف في أي عالم سأعيش فيه، لذلك لا أستطيع أن أثبت أي مستقبل بثقة. السباق هو آخر سباق هو AGI. نحن نقترب من المستوى النهائي من لعبة الفيديو. النقطة التي يبني فيها لاعب نظام يمكنه أتمتة جميع المهام الذكية وتحقيق الأهداف تحول خالقها إلى شيء قريب من الإله. كيان واحد يكتسب القدرة على التفوق على الجميع في كل مجال. وهذا ينهي المنافسة. وهذا ينهي الاختيارية. المركز الثاني يصبح عبدا لرؤية من يصل أولا. لهذا السبب الحوافز المتعلقة بالذكاء الاصطناعي العام خطيرة للغاية. كل لاعب يدرك أن التردد هو طريق مباشر نحو الخضوع. هذا المنطق يفرض التسارع، ويدفع نحو الطرق المختصرة، ويمحو الحذر من الأمان. بمجرد أن يصبح السباق وجوديا للمنافسين، تتوقف الآثار الخارجية عن الأهمية. ...