¿El gasto reciente de la Fuerza Aérea de los Estados Unidos? La Fuerza Aérea de los Estados Unidos ha invertido hasta 87 millones de dólares en la investigación de robots y sistemas autónomos, donde la capacidad autónoma ya no es solo una prueba de concepto, sino que ha entrado en un verdadero nivel estratégico. Pero cuando los sistemas autónomos comienzan a participar en la toma de decisiones y en la ejecución militar, tener solo velocidad y mayor inteligencia no es suficiente. Sin un sistema autónomo con cálculos verificables, esto en sí mismo representa un riesgo a nivel nacional. Si no se puede confirmar si el modelo ha sido reemplazado, si el razonamiento ha sido alterado, o si las decisiones se han ejecutado de acuerdo con las reglas establecidas, entonces, por avanzado que sea el robot, solo será una caja negra no auditada. Los registros y las declaraciones de los fabricantes no pueden asumir la responsabilidad a nivel militar; un error no atribuible puede tener un costo irreversible. Esta es precisamente la razón por la que los sistemas autónomos de defensa deben poner la verificación en el centro. No se trata de una revisión posterior, sino de restricciones previas; no se debe confiar en que el sistema no tendrá problemas, sino que debe poder demostrar que realmente ha funcionado de acuerdo con las reglas. En un escenario militar, la autonomía, si no tiene pruebas criptográficas como límite, no puede ser desplegada a gran escala, y mucho menos formar una ventaja de seguridad a largo plazo. Un sistema de defensa autónomo verdaderamente confiable debe basarse en cálculos verificables, y no en suposiciones de confianza. Cuando los sistemas autónomos se convierten en capacidades fundamentales, demostrar que lo han hecho bien es tan importante como permitirles actuar!