أنا قلق من أن تركيز مجتمع سلامة الذكاء الاصطناعي على الجداول الزمنية القصيرة يجعله يعمل في عقلية ندرة تؤدي إلى نتائج عكسية. أفضل نهج المحفظة حيث يركز الأفراد على سيناريوهات أكثر أو أقل إلحاحا بما يتناسب مع مدى مرونتهم عاطفيا.

أنا لا أقول أنه يجب عليك تغيير * معتقداتك * حول العقود الآجلة المحتملة ، فقط أنه يجب عليك تغيير المجموعة الفرعية من العقود الآجلة المحتملة التي تهدف إلى تحسينها. التركيز على سيناريوهات الجدول الزمني القصير يشبه كونك المستجيب الأول. معظم الناس ليسوا مناسبين مزاجيا لذلك.

بشكل ملموس ، يبدو أن التركيز على الجداول الزمنية القصيرة يقود إلى نقص الاستثمار في البحث الأساسي ، وعقلية "أي تنظيم جيد" (على سبيل المثال ، يقول الأشخاص الذين يقولون إن SB-1047 كانت "الفرصة الأخيرة" للتنظيم على الجداول الزمنية القصيرة) ، والقبلية / جنون العظمة (انظر انقلاب مجلس إدارة openAI) وما إلى ذلك.

أنا شخصيا أركز على الأبحاث والخطط التي أتوقع أن تؤتي ثمارها بشكل أساسي على مدى 10+ سنوات ، ويرجع ذلك جزئيا إلى معتقداتي التجريبية ، ولكن في الغالب لأنني أكره محاولة التوصل إلى حلول قرصنة تحت ضغط الوقت.

أمثلة أخرى: كان تقرير الوعي الظرفي ل @leopoldasch عقلية ندرة للغاية (لكنه يدير الآن صندوق تحوط ليس كذلك). بقي الكثير من الأشخاص بمن فيهم أنا في OpenAI لفترة طويلة جدا بسبب عقلية الندرة. بشكل عام ، "* يجب القيام بشيء * * يجب القيام به" هو سيف ذو حدين.