قال داريو أموداي في منتدى التجارة العالمي إنه على وشك نشر الجزء الثاني من "آلات النعمة المحبة". سيتم إصدارها اليوم، وقد أعطيت شركة Axios نظرة مبكرة من Anthropic. عنوانه 'مراهقة التكنولوجيا: مواجهة مخاطر القوي والتغلب عليها.'

بعض الاقتباسات: 'أعتقد أننا ندخل طقسا من المرور، مضطربا وحتميا، سيختبر من نحن كنوع. البشرية على وشك أن تمنح قوة تكاد لا يمكن تصورها، ومن غير الواضح تماما ما إذا كانت أنظمتنا الاجتماعية والسياسية والتكنولوجية تمتلك النضج الكافي لاستخدامها.'

'نحن الآن في مرحلة بدأت فيها نماذج الذكاء الاصطناعي تحقق تقدما في حل المشكلات الرياضية غير المحلولة، وأصبحت جيدة بما يكفي في البرمجة بحيث أن بعض أقوى المهندسين الذين قابلتهم يسلمون تقريبا كل برمجتهم إلى الذكاء الاصطناعي. قبل ثلاث سنوات، واجه الذكاء الاصطناعي مشاكل حسابية في المرحلة الابتدائية وكان بالكاد قادرا على كتابة سطر واحد من الكود. معدلات تحسين مماثلة تحدث في مجالات العلوم البيولوجية، المالية، الفيزياء، ومجموعة متنوعة من المهام الوكالية. إذا استمر هذا التسارع الأسي—وهو أمر غير مؤكد، لكنه الآن يدعمه سجل يمتد لعقد من الزمن—فلا يمكن أن يستغرق الأمر أكثر من بضع سنوات قبل أن يصبح الذكاء الاصطناعي أفضل من البشر في كل شيء تقريبا. في الواقع، ربما تقلل تلك الصورة من معدل التقدم المحتمل. وبما أن الذكاء الاصطناعي يكتب الآن الكثير من الكود في Anthropic، فهو بالفعل يسرع بشكل كبير من وتيرة تقدمنا في بناء الجيل القادم من أنظمة الذكاء الاصطناعي. هذه الحلقة التغذية الراجعة تزداد شهرا بعد شهر، وقد تكون على بعد سنة إلى سنتين فقط من نقطة يبني فيها الجيل الحالي من الذكاء الاصطناعي الجيل التالي بشكل مستقل. لقد بدأت هذه الحلقة بالفعل، وستتسارع بسرعة في الأشهر والسنوات القادمة. وأنا أراقب التقدم الخمس سنوات الماضية من داخل Anthropic، وأرى كيف تتشكل حتى الأشهر القليلة القادمة من العارضات، أشعر بوتيرة التقدم والوقت يمر في النزول.'

"من المحرج بعض الشيء قول هذا كرئيس تنفيذي لشركة الذكاء الاصطناعي، لكن أعتقد أن المستوى التالي من المخاطر هو في الواقع شركات الذكاء الاصطناعي نفسها. تتحكم شركات الذكاء الاصطناعي في مراكز البيانات الكبيرة، وتدرب نماذج الحدود، ولديها أكبر خبرة في كيفية استخدام تلك النماذج، وفي بعض الحالات لديها اتصال يومي وإمكانية التأثير على عشرات أو مئات الملايين من المستخدمين. الشيء الرئيسي الذي يفتقرون إليه هو شرعية وبنية الدولة التحتية، لذا فإن الكثير مما يلزم لبناء أدوات استبداد الذكاء الاصطناعي سيكون غير قانوني لشركة الذكاء الاصطناعي، أو على الأقل مشكوكا فيه للغاية. لكن بعض ذلك ليس مستحيلا: يمكنهم، على سبيل المثال، استخدام منتجاتهم الذكاء الاصطناعي لغسل أدمغة قاعدة مستخدميهم الضخمة، ويجب أن يكون الجمهور يقظا للمخاطر التي يمثلها ذلك. أعتقد أن حوكمة شركات الذكاء الاصطناعي تستحق الكثير من التدقيق.'

'كما يوحي بعبارة "بلد العباقرة في مركز بيانات"، سيكون الذكاء الاصطناعي قادرا على مجموعة واسعة جدا من القدرات الإدراكية البشرية—وربما جميعها. وهذا يختلف كثيرا عن التقنيات السابقة مثل الزراعة الميكانيكية، والنقل، أو حتى الحواسيب. وهذا سيجعل من الصعب على الناس الانتقال بسهولة من الوظائف التي تم استبعادها إلى وظائف مشابهة يناسبونها. على سبيل المثال، القدرات الفكرية العامة المطلوبة للوظائف المبتدئة في مجالات المالية، الاستشارات، والقانون متشابهة إلى حد كبير، حتى لو كانت المعرفة المحددة مختلفة تماما. تقنية تعطل واحدا فقط من هذه الثلاثة ستسمح للموظفين بالتحول إلى البدلاء القريبين الآخرين (أو لطلاب البكالوريوس بتغيير التخصص). لكن تعطيل الثلاثة معا (إلى جانب العديد من الوظائف المشابهة الأخرى) قد يكون أصعب على الناس في التكيف معه. علاوة على ذلك، ليس فقط أن معظم الوظائف الحالية ستتعطل. لقد حدث هذا الجزء من قبل—تذكر أن الزراعة كانت نسبة كبيرة من فرص العمل. لكن كان بإمكان المزارعين التحول إلى عمل مشابه نسبيا لتشغيل آلات المصانع، رغم أن هذا العمل لم يكن شائعا من قبل. وعلى النقيض من ذلك، فإن الذكاء الاصطناعي يتطابق بشكل متزايد مع الملف المعرفي العام للبشر، مما يعني أنه سيكون جيدا أيضا في الوظائف الجديدة التي عادة ما تخلق استجابة لأتمتة الوظائف القديمة. طريقة أخرى للقول هي أن الذكاء الاصطناعي ليس بديلا عن وظائف بشرية محددة، بل هو بديل عام للعمال عن البشر.'

على سبيل المثال، في الترميز انتقلت نماذجنا من مستوى "مبرمج متوسط" إلى "مبرمج قوي" ثم إلى "مبرمج قوي جدا." بدأنا الآن نرى نفس التطور في العمل المكتبي بشكل عام. لذا نحن معرضون لخطر أن يؤثر الذكاء الاصطناعي حيث، بدلا من التأثير على الأشخاص ذوي المهارات المحددة أو في مهن محددة (الذين يمكنهم التكيف من خلال إعادة التدريب)، يؤثر الذكاء الاصطناعي على الأشخاص ذوي الخصائص المعرفية الجوهرية المحددة، وهي انخفاض القدرة الذهنية (والتي يصعب تغييرها). ليس من الواضح إلى أين سيذهب هؤلاء الأشخاص أو ماذا سيفعلون، وأنا قلق من أنهم قد يشكلون طبقة عاطلة عن العمل أو ذات أجور منخفضة جدا.

تخطط Anthropic لإبقاء الموظفين في العمل حتى بعد أن 'لم يعودوا يقدمون قيمة اقتصادية بالمعنى التقليدي.' "ثالثا، يجب على الشركات التفكير في كيفية رعاية موظفيها. على المدى القصير، قد يكون الإبداع في طرق إعادة تعيين الموظفين داخل الشركات وسيلة واعدة لتجنب الحاجة إلى التسريح. على المدى الطويل، في عالم ذو ثروة إجمالية هائلة، حيث ترتفع قيمة العديد من الشركات بشكل كبير بسبب زيادة الإنتاجية وتركيز رأس المال، قد يكون من الممكن دفع رواتب الموظفين البشريين حتى بعد فترة طويلة من عدم تقديم القيمة الاقتصادية بالمعنى التقليدي. تدرس أنثروبك حاليا مجموعة من المسارات الممكنة لموظفينا التي سنشاركها في المستقبل القريب.'

'جميع مؤسسي أنثروبيك المشاركون تعهدوا بالتبرع بنسبة 80٪ من ثروتنا.'

بعض الحقائق الثقيلة، أتفق معها تماما وقد قلت أشياء مشابهة مرات عديدة. علاوة على ذلك، يجب أن توضح السنوات القليلة الماضية أن فكرة إيقاف أو حتى إبطاء التكنولوجيا بشكل كبير غير قابلة للقبول من الأساس. صيغة بناء أنظمة الذكاء الاصطناعي القوية بسيطة للغاية، لدرجة أنه يمكن القول إنها نشأت تلقائيا من التركيبة الصحيحة بين البيانات والحوسبة الخام. ربما كان خلقه حتميا في اللحظة التي اخترع فيها البشر الترانزستور، أو ربما حتى قبل ذلك عندما تعلمنا التحكم في النار لأول مرة. إذا لم تقم شركة واحدة ببناءه، فإن شركات أخرى ستفعل ذلك بسرعة مماثلة تقريبا. إذا توقفت أو أبطأت جميع الشركات في الدول الديمقراطية التنمية، باتفاق متبادل أو بمرسوم تنظيمي، فستستمر الدول الاستبدادية ببساطة. نظرا للقيمة الاقتصادية والعسكرية الهائلة لهذه التقنية، إلى جانب غياب أي آلية تنفيذ ذات معنى، لا أرى كيف يمكننا إقناعهم بالتوقف.'

أشياء رائعة، بالتأكيد يستحق القراءة كاملة. 'السنوات التي تنتظرنا ستكون صعبة للغاية، تطلب منا أكثر مما نعتقد أننا نستطيع أن نعطيه. لكن خلال وقتي كباحث وقائد ومواطن، رأيت ما يكفي من الشجاعة والنبل لأؤمن بأننا نستطيع الانتصار—وأنه عندما نوضع في أحلك الظروف، يكون للبشرية طريقتها في جمع، على ما يبدو في اللحظة الأخيرة، القوة والحكمة اللازمة للانتصار. ليس لدينا وقت لنضيعه.'