¡Un robot que pueda ser aceptado por todos debe primero superar el nivel de verificación! La razón por la que los robots quirúrgicos ahora son ampliamente confiables no es por lo inteligentes que parecen, sino porque desde el principio la precisión está escrita en la línea de máxima calidad. Cada acción y cada juicio debe ser completamente controlable, repetible y claramente responsable A medida que la autonomía se fortalezca y fortalezca, este umbral solo será más alto, no más bajo. Supervisión, revisión de seguridad e implementación real, nadie aceptará que el sistema debe estar en condiciones en ese momento. En escenarios de alto riesgo, solo digo que creo que estoy directamente fuera Las verdaderas preguntas mortales son en realidad estas pocas, ¿por qué decidió eso en ese momento? ¿Es el modelo que se declaró y aprobó de antemano? ¿Se ha manipulado, degradado o desviado inesperadamente el proceso de razonamiento? Si no se pueden verificar, no pienses en la autonomía a gran escala. Este es el valor de la Prueba de Inferencia, que no hace el sistema más complejo, sino que permite verificar cada decisión autónoma en tiempo real, sin explicarse a posteriori, pero cuando la decisión ocurre, se puede demostrar que se ha ejecutado honestamente según las reglas y modelos establecidos Cuando los sistemas autónomos realmente se adentran en los campos clave de la sanidad, la industria y la seguridad pública, la verificabilidad no es la guinda del pastel, sino la premisa fundamental de si las capacidades autónomas pueden mantenerse firmes #KaitoYap @KaitoAI #Yap @inference_labs