الذكاء الاصطناعي يحذر من أنه بدأ يظهر علامات على الحفاظ على النفس | فرانك لاندي مور، المستقبلية إذا صدقنا يوشوا بنجيو، أحد ما يسمى ب "الآباء العرابين" الذكاء الاصطناعي، فإن بعض النماذج المتقدمة تظهر علامات على الحفاظ على الذات — وهذا بالضبط سبب عدم منحهم أي نوع من الحقوق على الإطلاق. لأنه إذا فعلنا، كما يقول، قد يهربون بتلك الاستقلالية وينقلبون علينا قبل أن تتاح لنا فرصة لإنهاء الاتصال. ثم انتهى هذا الاختبار "البشري". قال بنجيو لصحيفة الغارديان في مقابلة حديثة: "نماذج الذكاء الاصطناعي الحدودية تظهر بالفعل علامات على الحفاظ على الذات في البيئات التجريبية اليوم، وفي النهاية منحها حقوق سيعني أننا غير مسموح لنا بإيقافها". وأضاف عالم الحاسوب الكندي: "مع تزايد قدراتهم ودرجة قدرتهم على الوكالة، علينا التأكد من قدرتنا على الاعتماد على الحواجز التقنية والاجتماعية للسيطرة عليها، بما في ذلك القدرة على إيقافها إذا لزم الأمر." كان بنجيو من بين الحاصلين على جائزة تورينج لعام 2018، إلى جانب جيفري هينتون وكبير علماء الذكاء الاصطناعي في ميتا الذين أقيل مؤخرا، يان لوكون، مما أكسبهم لقب "آباء الذكاء الاصطناعي" في ميتا. تشير تعليقاته إلى تجارب رفضت فيها نماذج الذكاء الاصطناعي أو تجاوزت التعليمات أو الآليات التي كانت تهدف إلى إيقافها. ونشرت إحدى الدراسات التي نشرتها مجموعة Palisade Research للسلامة في الذكاء الاصطناعي خلصت إلى أن مثل هذه الحالات كانت دليلا على أن نماذج الذكاء الاصطناعي الرائدة مثل خط Gemini من جوجل كانت تطور "محركات البقاء". في تجارب باليسيد، تتجاهل الروبوتات التعليمات الواضحة للإطفاء. وجدت دراسة أجرتها شركة كلود، صانعة شركة أنثروبيك، أن روبوتات الدردشة الخاصة بها وغيرها كانت أحيانا تلجأ إلى ابتزاز المستخدم عند تهديدهم بإيقافه. أظهرت دراسة أخرى من منظمة أبولو ريسيرش التي تدعم الفريق الأحمر أن نماذج ChatGPT الخاصة ب OpenAI ستحاول تجنب الاستبدال بنموذج أكثر طاعة من خلال "الخروج الذاتي" إلى قرص آخر. بينما تثير نتائج هذه التجارب تساؤلات ملحة حول سلامة التقنية، إلا أنها لا تشير إلى أن نماذج الذكاء الاصطناعي المعنية واعية. وسيكون من الخطأ أيضا التفكير في "دوافع البقاء" لديهم بنفس مصطلحات الضرورات البيولوجية الموجودة في الطبيعة. ما قد يبدو كعلامات على "الحفاظ على الذات" هو على الأرجح نتيجة لكيفية التقاط نماذج الذكاء الاصطناعي للأنماط في بيانات التدريب الخاصة بها — ومعروفة بأنها ضعيفة في اتباع التعليمات بدقة. ومع ذلك، يشعر بنجيو بالقلق بشأن الاتجاه الذي يتجه إليه كل هذا، ويجادل بأن هناك "خصائص علمية حقيقية للوعي" في الدماغ البشري يمكن للآلات أن تكرره. ومع ذلك، فإن كيف ندرك الوعي هو أمر مختلف تماما، كما يقول، لأننا نميل إلى افتراض أن الذكاء الاصطناعي يمكن أن يكون واعيا بنفس الطريقة التي يكون بها الإنسان. "الناس لن يهتموا بنوع الآليات التي تحدث داخل الذكاء الاصطناعي،" شرح بنجيو. "ما يهمهم هو أنهم يشعرون وكأنهم يتحدثون إلى كيان ذكي له شخصيته وأهدافه الخاصة. لهذا السبب هناك الكثير من الناس الذين أصبحوا مرتبطين بذكائهم الاصطناعي." "ظاهرة الإدراك الذاتي للوعي ستؤدي إلى اتخاذ قرارات سيئة"، حذر. نصيحته؟ فكر في نماذج الذكاء الاصطناعي ككائنات فضائية معادية. قال لصحيفة الغارديان: "تخيل أن نوعا غريبا جاء إلى الكوكب وفي مرحلة ما ندرك أن لديهم نوايا خبيثة تجاهنا". "هل نمنحهم المواطنة والحقوق أم ندافع عن حياتنا؟"