¿El reciente consumo de la Fuerza Aérea de EE.UU.? La Fuerza Aérea de EE. UU. ha invertido hasta 87 millones de dólares en investigación en robótica y sistemas autónomos, y las capacidades autónomas ya no son una prueba de concepto, sino que han entrado en un nivel verdaderamente estratégico. Pero cuando los sistemas autónomos comienzan a participar en la toma de decisiones y ejecución militar, no basta con ser más rápidos e inteligentes. Los sistemas autónomos sin computación verificable son un riesgo nacional en sí mismos. Si es imposible confirmar si el modelo ha sido reemplazado, si el razonamiento ha sido manipulado y si la decisión se ejecuta según las reglas establecidas, entonces, por muy avanzado que sea el robot, no es más que una caja negra no auditable. Los registros y declaraciones de proveedores no pueden ser responsables a nivel militar, y el coste de un error no responsable puede ser irreversible. Por eso los sistemas autónomos de defensa deben poner la validación en el núcleo. no revisar después, sino contenerse de antemano; No creo que el sistema deba funcionar bien, ¡pero puedo demostrar que realmente funciona según las normas! En escenarios militares, la autonomía no puede desplegarse a gran escala sin pruebas criptográficas como límites, y mucho menos sin ventajas de seguridad a largo plazo. Los sistemas de autonomía de defensa verdaderamente fiables deben basarse en cálculos verificables, no en supuestos de confianza. Cuando un sistema autónomo se convierte en una capacidad fundamental, demostrar que lo está haciendo bien es tan importante como conseguir que haga las cosas. #KaitoYap @KaitoAI #Yap @inference_labs