He llegado a tener sentimientos encontrados sobre "AGI" y "ASI" como términos para transmitir hacia dónde se dirige esta tecnología. Por un lado, AGI ha jugado un papel clave en motivar a personas talentosas que se obsesionaron con este problema (@demishassabis, @ShaneLegg, @ilyasut, muchos otros) y ha permitido el flujo de capital que hizo posibles muchos de nuestros avances. Por otro lado, "AGI" o "ASI" o cualquier variante actualmente perjudica activamente el discurso sobre cómo se construye y se utiliza la tecnología más interesante de nuestra vida. a) no es una descripción precisa de hacia dónde nos dirigimos, al menos como la interpreta la mayoría de la gente. Mira las conversaciones recientes con @karpathy y @dwarkesh_sp y verás instantáneamente cuán lejos estamos de algo que se asemeje a la verdadera inteligencia humana. No hay pruebas de despegue, los plazos siguen ampliándose. Estamos construyendo tecnología muy útil que podría transformar cómo funcionan las empresas o cómo se construye la tecnología, pero no tiene nada que ver con "inteligencia general". b) se ha vuelto tan sobrecargado que he encontrado que casi nadie define el término de la misma manera o está de acuerdo en los plazos (ya sea que ya lo hayamos alcanzado o que estemos a 30 años de distancia). Es por eso que cada publicación de blog sobre AGI tiene que conjurar su propia definición local para proceder. Principalmente suscribo a la opinión de @random_walk sobre por qué "inteligencia" se usa de una manera casi incoherente siempre. c) lo más importante, evoca miedo—conectado al uso histórico en la ciencia ficción y la filosofía (piensa en 2001, Her, cualquier cosa que invoque la singularidad) que no tiene nada que ver con el árbol tecnológico en el que realmente estamos. Hace que cada discusión sobre IA sea increíblemente fácil de antropomorfizar y desviar hacia hipotéticos. Puede que necesitemos un término diferente para lo que estamos tratando de construir al final de todo esto y lo que significa para los negocios y la sociedad.