في 5 مارس، أدت أداة برمجة ذكاء اصطناعي واحدة إلى انخفاض بنسبة 99٪ في الطلبات عبر أسواق أمازون في أمريكا الشمالية، مما أدى إلى إلغاء 6.3 مليون طلب في يوم واحد. طلب من الأداة إجراء تغييرات طفيفة ودمرت بيئة كاملة خلال العملية، مما أدى إلى استعادة لمدة 13 ساعة. بالنسبة لشركة تعالج مبيعات ~4,000 دولار في الثانية، يرفق هذا رقم دولار محدد جدا. أمازون الآن تعقد اجتماعا إلزاميا للهندسة حول هذا الموضوع، وتصفه بأنه "روتيني". مذكرتهم الداخلية تروي قصة مختلفة: نمط من الانقطاعات بمساعدة الذكاء الاصطناعي مع أضرار واسعة، وعدم وجود تدابير حماية محددة لمنعها. لكن لماذا يهم هذا الأمر خارج أمازون؟ كل مؤسسة كبرى حاليا تنشر أدوات الذكاء الاصطناعي في أنظمة لم تصمم لها من قبل. معظمهم يتحركون بسرعة، بافتراض أن المخاطر قابلة للإدارة حتى يثبت يوم مثل 5 مارس العكس. الخطأ في هذا الحجم على نطاق أمازون هو مشكلة إيرادات، ومشكلة تشغيلية، وفي النهاية مشكلة مساءلة القيادة. فما الذي تفعله أمازون فعليا حيال ذلك؟ أطلق نائب الرئيس الأول ديف تريدويل عملية إصلاح موثقة لمدة 90 يوما عبر 335 نظاما حيويا موجه للعملاء، ووضع ذلك كتابيا للموظفين: • يجب على زملاء التوقيع قبل بدء تغيير الكود • الفحوصات الآلية تفرض قواعد الموثوقية قبل النشر • أصبحت أدوات إدارة التغيير الرسمية الآن إلزامية في جميع المجالات • يجب على كل قائد على مستوى المدير ونائب الرئيس مراجعة جميع تغييرات كود الإنتاج في مؤسستهم بعد مرور التسعين يوما، تبني أمازون حدودا صارمة حول أدوات الذكاء الاصطناعي الخاصة بها. لأنه عندما تكلف الأخطاء مالا حقيقيا، فإن الحواجز ليست اختيارية.