É verdade que sou um leigo. Não entendo como a tecnologia funciona. Mas a coisa que acho mais chocante e, francamente, aterrorizante sobre a IA, no seu estado atual de desenvolvimento, é a sua capacidade de aparentemente entender. Você pode, agora mesmo, fornecer à IA um contrato legal e ela lerá tudo e produzirá uma análise detalhada como um advogado em 30 segundos. Ainda mais surpreendente, você pode fornecer um roteiro de filme inteiro e ela lerá tudo e lhe dará feedback criativo, até mesmo captando subtexto, temas e nuances de personagens individuais, e fará tudo isso em um minuto. Não parece nem mesmo possível, mas é isso que ela pode fazer. Essa é a parte inquietante. E a parte ainda mais inquietante é que não acho que ninguém realmente compreenda exatamente como essa coisa é capaz de entender.

Experimentei isto usando um contrato antigo para um acordo de livro há anos. Tudo o que posso dizer é que em 30 segundos ele identificou todas as coisas que o meu advogado humano identificou, e algumas coisas que ele não identificou.

Eu sei que a resposta é que a IA não "entende" realmente no sentido em que os seres conscientes o fazem. E eu acho que isso é verdade. Mas em que ponto a distinção entre entender e a aparência de entender começa a colapsar? Ninguém realmente sabe a resposta para isso. E ainda assim, estamos avançando de qualquer maneira.