بالأمس أطلقنا ChatGPT Atlas ، متصفح الويب الجديد الخاص بنا. في Atlas ، يمكن لوكيل ChatGPT إنجاز المهام نيابة عنك. نحن متحمسون لرؤية كيف تجعل هذه الميزة العمل والحياة اليومية أكثر كفاءة وفعالية للأشخاص. وكيل ChatGPT قوي ومفيد ، ومصمم ليكون آمنا ، ولكن لا يزال بإمكانه ارتكاب أخطاء (مفاجئة في بعض الأحيان!) ، مثل محاولة شراء منتج خاطئ أو نسيان تسجيل الوصول معك قبل اتخاذ إجراء مهم. أحد المخاطر الناشئة التي نبحث عنها بعناية وتخفيفها هو الحقن الفوري ، حيث يخفي المهاجمون تعليمات ضارة في مواقع الويب أو رسائل البريد الإلكتروني أو مصادر أخرى ، لمحاولة خداع العميل للتصرف بطرق غير مقصودة. يمكن أن يكون هدف المهاجمين بسيطا مثل محاولة تحيز رأي الوكيل أثناء التسوق ، أو نتيجة مثل محاولة المهاجم إقناع العميل بجلب البيانات الخاصة وتسريبها ، مثل المعلومات الحساسة من بريدك الإلكتروني أو بيانات الاعتماد. هدفنا على المدى الطويل هو أن تكون قادرا على الوثوق بوكيل ChatGPT لاستخدام متصفحك ، بنفس الطريقة التي تثق بها في زميلك أو صديقك الأكثر كفاءة وجديرة بالثقة ووعيا بالأمان. نحن نعمل بجد لتحقيق ذلك. في هذا الإطلاق ، قمنا بإجراء فريق أحمر مكثف ، ونفذنا تقنيات تدريب نموذجية جديدة لمكافأة النموذج على تجاهل التعليمات الضارة ، ونفذنا حواجز حماية متداخلة وتدابير أمان ، وأضفنا أنظمة جديدة لاكتشاف مثل هذه الهجمات ومنعها. ومع ذلك ، يظل الحقن الفوري مشكلة أمنية حدودية لم يتم حلها ، وسيقضي خصومنا وقتا وموارد كبيرة لإيجاد طرق لجعل عميل ChatGPT يقع في هذه الهجمات. لحماية مستخدمينا وللمساعدة في تحسين نماذجنا ضد هذه الهجمات: 1. لقد أعطينا الأولوية لأنظمة الاستجابة السريعة لمساعدتنا في تحديد حملات هجمات الحظر بسرعة عندما ندرك بها. 2. نواصل أيضا الاستثمار بكثافة في الأمن والخصوصية والسلامة - بما في ذلك البحث لتحسين متانة نماذجنا وأجهزة مراقبة الأمان وضوابط أمان البنية التحتية وغيرها من التقنيات للمساعدة في منع هذه الهجمات عبر الدفاع بعمق. 3. لقد صممنا Atlas لمنحك عناصر تحكم للمساعدة في حماية نفسك. لقد أضفنا ميزة للسماح لوكيل ChatGPT باتخاذ إجراء نيابة عنك ، ولكن دون الوصول إلى بيانات الاعتماد الخاصة بك تسمى "وضع تسجيل الخروج". نوصي بهذا الوضع عندما لا تحتاج إلى اتخاذ إجراء داخل حساباتك. اليوم ، نعتقد أن "وضع تسجيل الدخول" هو الأنسب للإجراءات ذات النطاق الجيد على المواقع الموثوقة للغاية ، حيث تكون مخاطر الحقن الفوري أقل. يعد مطالبته بإضافة مكونات إلى عربة التسوق أكثر أمانا بشكل عام من طلب واسع أو غامض مثل "مراجعة رسائل البريد الإلكتروني الخاصة بي واتخاذ أي إجراءات مطلوبة". 4. عندما يعمل الوكيل على مواقع حساسة ، قمنا أيضا بتنفيذ "وضع المشاهدة" الذي ينبهك إلى الطبيعة الحساسة للموقع ويتطلب أن يكون لديك علامة التبويب نشطة لمشاهدة الوكيل يقوم بعمله. سيتوقف الوكيل مؤقتا إذا ابتعدت عن علامة التبويب التي تحتوي على معلومات حساسة. يضمن ذلك أن تظل على دراية - والتحكم - في إجراءات الوكيل التي ينفذها الوكيل. بمرور الوقت ، نخطط لإضافة المزيد من الميزات والدرابزين وعناصر التحكم في السلامة لتمكين وكيل ChatGPT من العمل بأمان وأمان عبر سير العمل الفردي والمؤسسي. تتطلب المستويات الجديدة من الذكاء والقدرة التكنولوجيا والمجتمع واستراتيجية التخفيف من المخاطر للتطور المشترك. وكما هو الحال مع فيروسات الكمبيوتر في أوائل عام 2000 ، نعتقد أنه من المهم للجميع فهم الاستخدام المسؤول ، بما في ذلك التفكير في هجمات الحقن السريعة ، حتى نتمكن جميعا من تعلم الاستفادة من هذه التكنولوجيا بأمان. نحن متحمسون لرؤية كيف سيقوم وكيل ChatGPT بتمكين سير العمل الخاص بك في أطلس ، ونحن مصممون في مهمتنا لبناء تقنيات الذكاء الاصطناعي الأكثر أمانا وخصوصية وأمانا لصالح البشرية جمعاء.