5 Mart'ta, tek bir yapay zeka kodlama aracı Amazon'un Kuzey Amerika pazar yerlerinde siparişlerde %99 düşüşe yol açtı ve bir günde 6,3 milyon sipariş silindi. Araç küçük değişiklikler yapması istendi ve bu süreçte tüm bir ortamı yok etti, bu da 13 saatlik bir kurtarma sürecini tetikledi. Saniyede ~4.000$ satış işlemiş bir şirket için bunun çok spesifik bir dolar rakamı vardır. Amazon şimdi bu konuda zorunlu bir mühendislik toplantısı düzenliyor ve bunu "rutin" olarak nitelendiriyor. İç bilgilendirme notları farklı bir hikaye anlatıyor: yapay zeka destekli kesintiler ve geniş hasar veren bir desen, ve bunları önlemek için belirlenmiş önlemler yok. Peki bu neden Amazon'un ötesinde önemli bir şey? Şu anda her büyük işletme, kendileri için tasarlanmamış sistemlere yapay zeka araçlarını entegre ediyor. Çoğu hızlı hareket ediyor, riskin yönetilebilir olduğunu varsayarak, 5 Mart gibi bir gün aksi kanıtlanana kadar. Amazon ölçeğinde bunu yanlış yapmak gelir sorunu, operasyonel bir sorun ve nihayetinde liderlik hesap verebilirliği sorunudur. Peki Amazon aslında bunun için ne yapıyor? Kıdemli Başkan Yardımcısı Dave Treadwell, 335 kritik müşteriyle görüşe yönelik sistemde belgelenmiş 90 günlük bir revizyon başlattı ve bunu personele yazılı olarak bildirdi: • Kod değişikliği yürürlüğe girmeden önce iki meslektaş onaylamalıdır • Otomatik kontroller, dağıtımdan önce güvenilirlik kurallarını uygular • Resmi değişim yönetimi araçları artık her yerde zorunludur • Her Direktör ve Başkan Yardımcısı seviyesindeki lider, organizasyonlarındaki tüm üretim kodu değişikliklerini denetlemek zorundadır 90 günün ötesinde, Amazon yapay zeka araçları etrafında katı sınırlar oluşturuyor. Çünkü hatalar gerçek paraya mal olduğunda, korkuluklar isteğe bağlı değildir.