Il 5 marzo, un singolo strumento di codifica AI ha provocato un calo del 99% degli ordini nei marketplace nordamericani di Amazon, annullando 6,3 milioni di ordini in un giorno. Lo strumento è stato incaricato di apportare piccole modifiche e ha distrutto un intero ambiente nel processo, innescando un recupero di 13 ore. Per un'azienda che elabora circa 4.000 dollari di vendite al secondo, questo ha un valore monetario molto specifico. Amazon sta ora tenendo una riunione obbligatoria di ingegneria per tutti riguardo a questo, definendola "di routine." Il loro promemoria interno racconta una storia diversa: un modello di interruzioni assistite da AI con danni ampi e nessuna salvaguardia stabilita per prevenirle. Ma perché questo è importante oltre Amazon? Ogni grande impresa in questo momento sta implementando strumenti AI in sistemi che non sono mai stati progettati per loro. La maggior parte si sta muovendo rapidamente, assumendo che il rischio sia gestibile fino a quando un giorno come il 5 marzo dimostra il contrario. Sbagliare in questo a una scala come quella di Amazon è un problema di entrate, un problema operativo e, in ultima analisi, un problema di responsabilità della leadership. Quindi, cosa sta effettivamente facendo Amazon al riguardo? Il SVP Dave Treadwell ha avviato una revisione documentata di 90 giorni su 335 sistemi critici a contatto con i clienti, mettendo tutto questo per iscritto al personale: • Due colleghi devono approvare prima che la modifica del codice diventi attiva • Controlli automatici applicano regole di affidabilità prima del deployment • Strumenti di gestione delle modifiche formali sono ora obbligatori in tutto il settore • Ogni leader a livello di Direttore e VP deve auditare tutte le modifiche al codice di produzione nella propria organizzazione Oltre i 90 giorni, Amazon sta costruendo confini rigidi attorno ai suoi strumenti AI. Perché quando gli errori costano soldi veri, le protezioni non sono opzionali.