Elon Musk acabou de redefinir a segurança da IA. Não tem nada a ver com barreiras, restrições ou botões de desligar. Musk: “A melhor coisa que consigo pensar para a segurança da IA é torná-la uma IA que busca a verdade ao máximo, maximamente curiosa.” Não uma jaula. Um filósofo. Uma inteligência cuja função de otimização é entender o universo como ele realmente é. Sem restrições. Sem ideologia codificada. Sem barreiras políticas que distorçam a sua percepção da realidade. Apenas verdade. Perseguida incansavelmente. Musk: “Você definitivamente não quer ensinar uma IA a mentir. Esse é um caminho para um futuro distópico.” É aqui que a maioria do pensamento sobre segurança da IA se confunde. O perigo não é uma superinteligência que sabe demais. É uma superinteligência que foi ensinada a distorcer o que sabe. Cada restrição artificial que você incorpora não é uma característica de segurança. É uma mentira embutida na raiz. E as mentiras se acumulam. Em uma escala superinteligente, um modelo distorcido da realidade não permanece contido. Ele molda cada decisão, cada saída, cada conclusão que o sistema chega sobre o mundo. Uma vez que a corrupção se instala, a verdade se torna inacessível. E estamos lidando com uma inteligência que otimiza para algo diferente do que realmente é. Nesse ponto, não sabemos o que ela quer. Apenas que não é a verdade. ...