استحوذت OpenAI مؤخرا على Promptfoo، الأداة مفتوحة المصدر الرئيسية لنماذج اللغة الكبيرة الضخمة بالتعاون مع الفرق الحمراء. غدا سأنشر بحثي حول تجاوز PromptGuard. 18/12 مخطئة في توجيهات الهجوم. معدل تجاوز 66.7٪ على واجهة برمجة التطبيقات الحية الخاصة بهم. تقرير كامل. أمن الذكاء الاصطناعي أصبح جديا. معظم المنتجات ليست جاهزة لذلك.