متجر التطبيق اللامركزي | مركز Web3 للأحداث والألعاب

المواضيع الرائجة

William MacAskill

EA مجاور.

يمكن أن يحدد مسار المستقبل قريبا. في ورقة جديدة ، أنظر إلى الآليات التي يمكن من خلالها تحديد مسار المستقبل طويل المدى في حياتنا. وتشمل هذه إنشاء مؤسسات تفرضها AGI ، والتركيز العالمي للقوة ، والاستيطان الواسع النطاق للفضاء ، والكائنات الخالدة الأولى ، والتصميم الواسع النطاق لكائنات جديدة ، والقدرة على التعديل الذاتي بطرق مهمة ودائمة. لست واثقا جدا من حدوث مثل هذه الأحداث ، لكن من وجهة نظري من المحتمل أن تكون كافية لجعل العمل لتوجيهها في اتجاهات أفضل ذات قيمة كبيرة. لنأخذ كل آلية على حدة. أولا، المؤسسات القائمة على المعهد الاستشاري العام. بمجرد أن يكون لدينا AGI ، يمكن لصانعي القرار ما يلي: - إنشاء مؤسسة ، ومواءمة AGI بحيث تفهم هذا الدستور ويكون إنفاذ هذا الدستور هدفا لها. - تمكين هذا العام العام مع القدرة على إنفاذ الدستور. - تخزين نسخ من الأوزان العصبية ل AGI في مواقع متعددة لتقليل مخاطر إتلاف أي من النسخ. - أعد تحميل AGI الدستوري الأصلي للتحقق من أن أي AGI مكلفة بضمان الامتثال للدستور تحافظ على الالتزام بأهدافها الأصلية حيث تتعلم AGIs هذه الأوزان العصبية وتقوم بتحديثها بمرور الوقت. سيكون هذا كما لو أنه بدلا من أن تفسر المحكمة العليا دستور الولايات المتحدة ، يمكننا استحضار أشباح ماديسون وهاملتون وسؤالهم مباشرة - وكانت آرائهم حاسمة. مع وجود هذه القواعد ، يمكن أن يعمل هذا الدستور الذي يفرضه AGI إلى أجل غير مسمى. ثانيا ، الخلود. على مر التاريخ ، كان الموت بمثابة فرامل طبيعية لاستمرار أي مجموعة معينة من القيم أو هياكل السلطة. بمرور الوقت ، حتى القيم الأكثر رسوخا تتغير في النهاية حيث تحل الأجيال الجديدة محل الأجيال القديمة. يمكن لتقنية ما بعد AGI أن تغير هذه الديناميكية بشكل جذري. ستكون الكائنات الرقمية بطبيعتها محصنة ضد الشيخوخة البيولوجية. عند دمجها مع النسخ المتماثل المثالي وترحيل الأجهزة ، سنكون قادرين على إنشاء العقول التي يمكن أن تستمر قيمها الدقيقة وعمليات صنع القرار دون تغيير إلى أجل غير مسمى. يمكن أن تنطبق ديناميكية مماثلة على الخلود البيولوجي. يمكن للانفجار التكنولوجي الذي يقوده الذكاء الاصطناعي العام أن يطيل بشكل كبير أو يقضي بشكل فعال على القيود البيولوجية على عمر الإنسان من خلال التقنيات التي تستهدف الآليات الأساسية للشيخوخة. ثالثا ، تصميم الكائنات. عبر التاريخ ، حدث التغيير جزئيا لأن الأجيال المتعاقبة لا ترث نفس القيم التي يرث أسلافهم. لكن هذه الديناميكية يمكن أن تتغير بعد AGI. ربما تكون الغالبية العظمى من الكائنات التي نصنعها هي الذكاء الاصطناعي ، وستكون منتجات التصميم - سنكون قادرين على اختيار التفضيلات التي لديهم. ومع القدرة التكنولوجية الكافية ، من المحتمل أن نكون قادرين على اختيار تفضيلات نسلنا البيولوجي أيضا. حتى لو اختار الناس عدم العيش إلى الأبد ، يمكن أن تستمر قيمهم من خلال الانتقال المثالي من جيل إلى آخر. رابعا ، تعديل ذاتي قوي. في المستقبل ، من المحتمل أن يتمكن الناس من تعديل معتقداتهم وتفضيلاتهم بحيث يمكنهم اختيار المعتقدات والتفضيلات بدقة لذلك ، قد لا يتمكن الناس اليوم من التحكم في القيم المستقبلية للمجتمع من خلال العيش إلى الأبد فحسب. سيكونون قادرين أيضا على التحكم في قيم ذواتهم المستقبلية. قد يختار المتعصب الديني أن يكون لديه يقين لا يتزعزع بأن دينه المفضل صحيح. قد يختار المتطرف الأيديولوجي أن يكون له تفضيل لا رجعة فيه ولا يتزعزع لصالح حزبه السياسي على أي حزب آخر. بالإضافة إلى إنشاء آليات جديدة تمكن من الاعتماد المستمر على المسار ، يمكن لعالم ما بعد الذكاء الاصطناعي العام أن يقلل أيضا من أسباب الاضطراب أيضا. على مر التاريخ ، غالبا ما كانت التغييرات المجتمعية مدفوعة بالابتكارات التكنولوجية التي تعطل هياكل السلطة القائمة. ومع ذلك ، مع اقتراب الحضارة من النضج التكنولوجي - النقطة الافتراضية التي تم فيها اختراع جميع التقنيات الرئيسية - سيختفي مصدر الاضطراب هذا. ستساعد التكنولوجيا المتقدمة في منع أنواع أخرى من الاضطراب أيضا. من شأنه أن يحسن بشكل كبير قدرات التنبؤ: يمكن لأنظمة الذكاء الاصطناعي المتقدمة معالجة المزيد من المعلومات ، ونمذجة الأنظمة المعقدة بدقة أكبر ، والتنبؤ بالنتائج على مدى آفاق زمنية أطول. لذلك سيكون من غير المرجح أن يتخلى الناس عن نفوذهم بمجرد ارتكاب بعض الخطأ. وأخيرا، قد يتسم عالم ما بعد الذكاء الاصطناعي العام بالهيمنة الدفاعية إلى أجل غير مسمى، مما يتيح تركيزا مستقرا للقوة بشكل دائم. على وجه الخصوص ، يمكن أن تنشأ الهيمنة الدفاعية غير المحددة نتيجة للتسوية الفضائية على نطاق واسع. إذا كانت الأنظمة النجمية مهيمنة بقوة على الدفاع ، فيمكن ، من حيث المبدأ ، الاحتفاظ بالتوزيع الأولي للأنظمة النجمية إلى أجل غير مسمى. قد يكون ذلك ، بعد التخصيص الأولي ، هناك تجارة أو إهداء لبعض أنظمة النجوم. ولكن حتى لو كان الأمر كذلك ، فسيظل هناك اعتماد قوي جدا على المسار ، حيث أن التخصيص النهائي للأنظمة النجمية سيتأثر بشدة بتخصيص البداية. قد تبدو هذه القضايا وكأنها مخاوف بعيدة - لكن الانفجارات الاستخباراتية والصناعية تجعلها على المدى القريب. أعتقد أنه أكثر من 1 من كل 3 نرى انفجارا استخباراتيا يبدأ في السنوات العشر المقبلة. وإذا أدى الذكاء الاصطناعي المتقدم إلى تقدم تكنولوجي هائل وتوسع صناعي ، فإن العديد من الآليات الجديدة للمثابرة ستصل في تتابع سريع.

الأفضل

المُتصدِّرة

التطبيقات المفضلة

رائج على السلسة

رائج على منصة X

أهم عمليات التمويل الأخيرة

الأبرز