Um robô que pode ser aceito por todos deve primeiro passar no nível de verificação! A razão pela qual os robôs cirúrgicos agora são amplamente confiáveis não é por serem inteligentes, mas porque, desde o início, a precisão está presa na linha do mais alto padrão. Cada ação e cada julgamento devem ser completamente controláveis, repetíveis e claramente responsáveis À medida que a autonomia se torna cada vez mais forte, esse limiar só será maior, não menor. Supervisão, revisão de segurança e implementação real, ninguém aceita que o sistema deve estar correto naquele momento. Em cenários de alto risco, só estou dizendo que acredito que estou diretamente fora As verdadeiras perguntas mortais são, na verdade, apenas essas poucas, por que a empresa decidiu assim naquele momento? É o modelo que foi declarado e aprovado antecipadamente? O processo de raciocínio foi adulterado, rebaixado ou desviado inesperadamente? Se isso não puder ser verificado, não pense em autonomia em grande escala. Esse é o valor da Prova de Inferência, que não torna o sistema mais complexo, mas permite que toda decisão autônoma seja verificada em tempo real, sem ser explicada posteriormente, mas quando a decisão ocorre, pode-se provar que ela foi honestamente executada de acordo com as regras e modelos estabelecidos Quando sistemas autônomos realmente entram nos principais campos-chave da saúde, indústria e segurança pública, a verificabilidade não é a cereja do bolo, mas a premissa fundamental para saber se as capacidades autônomas podem se manter firmes #KaitoYap @KaitoAI #Yap @inference_labs