نحن نطلق فريق "الطب النفسي الذكاء الاصطناعي" كجزء من جهود التفسير في Anthropic!  سنقوم بالبحث عن ظواهر مثل الشخصيات النموذجية والدوافع والوعي الظرفي ، وكيف تؤدي إلى سلوكيات مخيفة / غير مزعجة. نحن نوظف - انضم إلينا!

ضربتني أخبار OpenAI IMO بشدة في نهاية هذا الأسبوع ما زلت في المرحلة الحادة من التأثير ، على ما أعتقد أنا أعتبر عالم رياضيات محترفا (توصيف قد يعترض عليه بعض علماء الرياضيات المحترفين الفعليين ، لكن حزبي قواعدي) ولا أعتقد أنني أستطيع الإجابة على سؤال واحد من IMO حسنا ، نعم ، IMO هو قسم فرعي رياضي صغير خاص به من الرياضيات لم أتدرب عليه ، وما إلى ذلك ، ولكن. إذا قابلت شخصا في البرية لديه ذهب IMO ، فسأقوم على الفور بالتحديث إلى "هذا الشخص أفضل بكثير في الرياضيات مني" الآن يمكن لمجموعة من الروبوتات القيام بذلك. بصفتك شخصا لديه الكثير من هويته وحياته الفعلية المبنية على "جيد في الرياضيات" ، فهذه لكمة غريزية. إنه نوع من الموت. مثل ، في يوم من الأيام تكتشف أنه يمكنك التحدث إلى. إنه ممتع وممتع لذا يمكنك القيام بذلك أكثر ، وتعلم تعقيدات لغتهم وأعمق عاداتهم. أنت تعلم أن الآخرين يتفاجأون بما يمكنك القيام به. تقدرك أيضا ، ذو قدمين الوحيد الذي يحصل عليه حقا. أنت تجمع لنفسك نوعا من الانتماء. ثم في يوم من الأيام تستيقظ ومترجم العالمي معروض للبيع في وول مارت مقابل 4.99 دولارا نتيجة IMO ليست أخبارا بالضبط. في الواقع ، إذا نظرت إلى مخطط مهمة وكيل METR بمرور الوقت ، أعتقد أن الوكلاء قادرين على حل مشاكل ~ 1.5 ساعة تأتي في الوقت المحدد. لذلك بطريقة ما لا ينبغي أن نتفاجأ. وبالفعل ، يبدو أن العديد من الشركات قد حققت نفس النتيجة. إنه فقط ... ارتفاع المد بالسرعة التي ارتفع بها بالطبع ، الحزن على هويتي الشخصية كعالم رياضيات (و / أو عضو منتج في المجتمع) هو أصغر جزء من هذه القصة اضرب هذا الحزن من قبل * كل * عالم رياضيات ، من قبل كل مبرمج ، ربما كل عامل معرفي ، كل فنان ... على مدى السنوات القليلة المقبلة ... إنها قصة أكبر قليلا وبالطبع ، أبعد من ذلك ، هناك خوف من الموت الفعلي ، والذي ربما سأخوض فيه لاحقا. هذه الحزمة - الحزن على الصلة ، الحزن على الحياة ، الحزن على ما عرفته - ليست فريدة من نوعها في عصر الذكاء الاصطناعي أو أي شيء من هذا القبيل. أعتقد أنه شيء قياسي حيث يلحق المرء نهاية الحياة المهنية أو نهاية الحياة. قد يكون هذا قريبا قليلا بالنسبة للكثيرين منا ، دفعة واحدة. أتساءل عما إذا كنا مستعدين

من المنطقي الآن. هذا الموظف في xAI موافق علنا مع الذكاء الاصطناعي الذي يتسبب في انقراض الإنسان. تذكير: على الرغم من أن هذا مرعب ، ~ 10٪ من باحثي الذكاء الاصطناعي يعتقدون ذلك. إنها ليست وجهة نظر هامشية! بشكل لا يصدق ، حتى ريتشارد ساتون الحائز على جائزة تورينج جادل مرارا وتكرارا بأن الانقراض سيكون الشيء الصحيح أخلاقيا الذي سيحدث ، إذا كانت الذكاء الاصطناعي أكثر ذكاء منا (!) يذهب حول العالم ويلقي الخطب قائلا إنه يجب علينا "الاستعداد للخلافة" و "يجب علينا الانحناء" وعدم الوقوف في طريق "التقدم التطوري" (حتى لو تسبب في انقراض الإنسان). بدلا من أن تلهث الحشود في رعب ، يحصل على التصفيق. تهديد شخص واحد؟ "أنت بحاجة إلى مساعدة." تهديد 100؟ "اتصل بالشرطة!" تهديد الملايين؟ "وحش!" لكن بناء آلات لإنهاء البشرية جمعاء وإلقاء محاضرات حول كيف أنه شيء جيد؟ "أوه ، يا له من موقف فلسفي رائع! احصل على جائزة تورينج! لذلك بالطبع يدافعون عن السلامة - فهم حرفيا معادون للإنسان! لن يتوقفوا أبدا أو يمضوا بحذر ما لم يتم تقييدهم من قبل المجتمع المدني.

يوافق 58٪ من الناس على أنه "إذا قمنا ببناء نماذج الذكاء الاصطناعي أكثر ذكاء منا ، فسوف نفقد السيطرة عليها حتما". فقط 12٪ لا يوافقون.