Cheguei a ter sentimentos mistos sobre "AGI" e "ASI" como termos para transmitir para onde esta tecnologia está a ir. Por um lado, a AGI desempenhou um papel fundamental em motivar pessoas talentosas que se obsessaram por este problema (@demishassabis, @ShaneLegg, @ilyasut, muitos outros) e possibilitou o fluxo de capital que tornou muitos dos nossos avanços possíveis. Por outro lado, "AGI" ou "ASI" ou qualquer variante atualmente prejudica ativamente o discurso sobre como a tecnologia mais interessante da nossa vida está a ser construída e utilizada. a) não é uma descrição precisa de para onde estamos a ir, pelo menos como a maioria das pessoas interpreta o termo. Olhe para as conversas recentes com @karpathy e @dwarkesh_sp e verá instantaneamente quão longe estamos de algo que se assemelhe à verdadeira inteligência humana. Sem provas de decolagem, os prazos continuam a expandir-se. Estamos a construir tecnologia muito útil que poderia transformar como as empresas funcionam ou como a tecnologia é construída, mas não tem nada a ver com "inteligência geral". b) tornou-se tão sobrecarregado que quase não encontrei duas pessoas que o definam da mesma forma ou concordem sobre os prazos (se já o alcançamos ou estamos a 30 anos de distância). É por isso que cada post de blog sobre AGI tem que conjurar a sua própria definição local para prosseguir. Eu subscrevo principalmente a visão de @random_walk sobre por que "inteligência" é usada de uma forma quase incoerente sempre. c) mais importante, evoca medo—conectado ao uso histórico em ficção científica e filosofia (pense em 2001, Her, qualquer coisa que invoque a singularidade) que não tem nada a ver com a árvore tecnológica em que realmente estamos. Torna cada discussão sobre IA incrivelmente fácil de antropomorfizar e desviar para hipóteses. Podemos precisar de um termo diferente para o que estamos a tentar construir no final de tudo isto e o que isso significa para os negócios e a sociedade.