I robot umanoidi di livello industriale stanno per essere prodotti su larga scala, e il principale ostacolo è in realtà la verificabilità. Xiaomi ha recentemente dichiarato che nei prossimi cinque anni intende introdurre i robot umanoidi nelle proprie fabbriche, non solo per realizzare alcuni prototipi da esporre, ma per realizzare una produzione autonoma su larga scala. Una volta che i robot entrano nella linea di produzione reale, il problema non è più se possono lavorare, ma ci sono domande più severe: • Perché in quel momento ha preso quella decisione e ha agito in quel modo? • Ogni suo passo segue rigorosamente i processi e le norme di sicurezza? • In caso di problemi, è possibile effettuare un tracciamento completo, una revisione e accettare un audit? Le fabbriche sono luoghi ad alto rischio, e un piccolo errore può causare grandi problemi. Se i sistemi autonomi non hanno decisioni e registrazioni di esecuzione trasparenti e verificabili, ciò che portano non è un aumento dell'efficienza, ma potrebbe invece rappresentare un nuovo rischio sistemico. Ciò che può realmente sostenere l'automazione su scala industriale non è solo avere modelli più potenti e hardware più veloci, ma la cosa più fondamentale è avere meccanismi di responsabilità e audit a livello di crittografia. L'AI verificabile è la chiave per determinare se l'automazione rappresenta un miglioramento della sicurezza o se nasconde rischi incontrollabili.