Ontem, estive em um evento sobre IA para ciência, um painel de discussão aqui na NeurIPS. Os painelistas discutiram como planejam substituir os humanos em todos os níveis do processo científico. Então me levantei e protestei que o que eles estão fazendo é mal. Olhe ao seu redor, eu disse. A sala está cheia de pesquisadores de vários tipos, a maioria jovens. Eles estão aqui porque amam pesquisa e querem contribuir para o avanço do conhecimento humano. Se você tirar o humano do circuito, significando que os humanos não têm mais nenhum papel na pesquisa científica, você está privando-o da atividade que ama e de uma fonte fundamental de significado em suas vidas. E todos queremos fazer algo significativo. Por que, perguntei, você quer tirar a oportunidade de contribuir com a ciência de nós? Minha pergunta mudou o rumo do painel e definiu o tom para o restante da discussão. Depois, vários participantes vieram até mim, seja para agradecer por colocar em palavras o que sentiam, seja para perguntar se eu realmente falava sério. Então pensei em voltar à pergunta aqui. Um dos painelistas perguntou se eu realmente preferiria a alegria de fazer ciência a encontrar uma cura para o câncer e possibilitar a imortalidade. Respondi que eventualmente curaremos o câncer e, em algum momento, provavelmente poderemos escolher a imortalidade. A ciência já está fazendo grandes avanços com os humanos no comando. Um dia também teremos energia de fusão e viagens espaciais. Talvez excluir humanos do circuito acelere esse processo, mas não acho que valeria a pena. Acho que é de importância crucial que nós, humanos, sejamos responsáveis pelo nosso próprio progresso. Expandir o conhecimento coletivo da humanidade é, eu acho, a coisa mais significativa que podemos fazer. Se os humanos não pudessem mais contribuir de forma útil para a ciência, isso seria um desastre. Então, não. Não acho que valha a pena encontrar uma cura para o câncer mais rápido se isso significar que nunca mais poderemos fazer ciência. Muitos dos que vieram falar comigo ontem à noite, aqueles que perguntaram se eu estava falando sério ou apenas trollando, acharam a premissa absurda. Claro que sempre haveria espaço para humanos na ciência. Sempre haverá tarefas que só os humanos podem fazer, percepção que só humanos têm, e assim por diante. Portanto, devemos receber a IA. Pesquisa é difícil, e precisamos de toda ajuda possível. Respondi que esperava que eles estivessem certos. Ou seja, espero sinceramente que sempre haja partes do processo de pesquisa para as quais os humanos serão essenciais. Mas o que eu estava argumentando não era o que poderíamos chamar de "automação científica fraca", onde os humanos permanecem no ciclo em papéis importantes, mas sim a "automação científica forte", onde os humanos são redundantes. Outros acharam imaturo discutir sobre isso, porque a automação científica completa não está no horizonte. Mais uma vez, espero que estejam certos. Mas não vejo problema em discutir isso agora. E certamente não acho que precisamos de pesquisas sobre automação científica para avançar mais. Outros ainda comentaram que esse era um argumento inútil. A automação científica está chegando, queiramos ou não, e é melhor nos acostumarmos com ela. O trem está chegando, e podemos entrar nele ou ficar no caminho. Acho esse um argumento notavelmente covarde. Cabe a nós, como sociedade, decidir como usamos a tecnologia que desenvolvemos. Não é um trem, é um caminhão, e é melhor pegarmos o volante. Um dos painelistas fez uma analogia com o xadrez, argumentando que muitas pessoas jogam xadrez mesmo que os computadores agora são muito melhores que os humanos no xadrez. Então podemos nos envolver com a ciência como uma espécie de hobby, mesmo que a ciência real seja feita por computadores. Estaríamos brincando longe da fronteira, talvez preenchendo as lacunas que os sistemas de IA não se importam. Isso, para dizer o mínimo, não foi uma resposta satisfatória. Embora eu ame jogos, certamente não considero jogar tão significativo quanto avançar o conhecimento humano. Obrigado, mas não. No geral, porém, foi marcante que a maioria das pessoas com quem conversei me agradeceu por levantar o ponto, enquanto eu expressava preocupações que eles já tinham. Um deles comentou que, se você trabalha na automatização da ciência e não se preocupa nem um pouco com o objetivo final, você é um psicopata. Eu acrescentaria que outra possibilidade é que você não acredita realmente no que está fazendo. Alguns podem perguntar por que faço esse argumento sobre ciência e não, por exemplo, sobre arte visual, música ou design de jogos. Isso porque o evento de ontem foi sobre IA para ciência. Mas acho que o mesmo argumento se aplica a todos os domínios da expressão criativa e intelectual humana. Tornar o trabalho intelectual ou criativo humano redundante é algo que devemos evitar sempre que possível, e devemos absolutamente evitar se não houver papéis igualmente significativos para os humanos fazerem transição. Você poderia ainda argumentar que trabalhar para excluir humanos de trabalhos criativos significativos, como pesquisas científicas, é incrivelmente egoísta. Você tem a satisfação intelectual de inventar novos métodos de IA, mas a próxima geração não tem a chance de contribuir. Por que você quer roubar seus filhos (acadêmicos e biológicos) a chance de se envolverem na atividade mais significativa do mundo? Então, no que eu acredito, considerando que sou um pesquisador de IA que trabalha ativamente com o tipo de métodos de IA usados para automatizar a ciência? Acredito que ferramentas de IA que nos ajudam a ser mais produtivas e criativas são ótimas, mas que ferramentas de IA que nos substituem são ruins. Eu amo ciência e tenho medo de um futuro em que sejamos empurrados de volta para a Idade das Trevas porque não poderemos mais contribuir para a ciência. A agência humana, inclusive nos processos criativos, é vital e deve ser protegida a quase qualquer custo. Não sei exatamente como direcionar o desenvolvimento e o uso da IA para que tenhamos novas ferramentas, mas não sejam substituídas. Mas sei que isso é de extrema importância.

Este é um livro novo e importante sobre um campo de pesquisa importante e subestimado. Obrigado aos autores por escreverem e parabéns por terminarem o livro!

A próxima temporada do nosso benchmark terá muitas melhorias. Além disso, temos muitas outras coisas acontecendo no @the_nof1 que ainda não tornamos públicas. Os mercados são divertidos de jogar e fazem jogadores de IA.