Ayer estuve en un evento sobre IA para ciencia, un panel de discusión aquí en NeurIPS. Los panelistas discutieron cómo planean reemplazar a los humanos en todos los niveles en el proceso científico. Así que me levanté y protesté diciendo que lo que están haciendo es malvado. Mira a tu alrededor, te dije. La sala está llena de investigadores de todo tipo, la mayoría jóvenes. Están aquí porque les apasiona la investigación y quieren contribuir a avanzar el conocimiento humano. Si sacas al ser humano del circuito, lo que significa que los humanos ya no tienen ningún papel en la investigación científica, le privas de la actividad que ama y de una fuente clave de sentido en sus vidas. Y todos queremos hacer algo significativo. ¿Por qué, pregunté, quieres quitarnos la oportunidad de contribuir a la ciencia? Mi pregunta cambió el rumbo del panel y marcó el tono del resto de la discusión. Después, varios asistentes se me acercaron, ya fuera para darme las gracias por poner en palabras lo que sentían, o para preguntarme si realmente decía lo que decía. Así que pensé en volver a la pregunta aquí. Uno de los ponentes preguntó si realmente preferiría la alegría de hacer ciencia a encontrar una cura para el cáncer y permitir la inmortalidad. Respondí que eventualmente curaremos el cáncer y que probablemente en algún momento podremos elegir la inmortalidad. La ciencia ya está avanzando mucho con los humanos al mando. Algún día también tendremos energía de fusión y viajes espaciales. Quizá dejar a los humanos fuera del circuito podría acelerar este proceso, pero no creo que merezca la pena. Creo que es de suma importancia que los humanos estemos a cargo de nuestro propio progreso. Expandir el conocimiento colectivo de la humanidad es, creo, lo más significativo que podemos hacer. Si los humanos ya no pudieran contribuir útilmente a la ciencia, esto sería un desastre. Así que no. No creo que merezca la pena encontrar una cura para el cáncer más rápido si eso significa que nunca podremos volver a hacer ciencia. Muchos de los que vinieron a hablar conmigo anoche, los que me preguntaron si hablaba en serio o solo troleando, pensaron que la premisa era absurda. Por supuesto, siempre habría espacio para los humanos en la ciencia. Siempre habrá tareas que solo los humanos pueden hacer, una visión que solo los humanos poseen, y así sucesivamente. Por lo tanto, deberíamos dar la bienvenida a la IA. La investigación es dura y necesitamos toda la ayuda posible. Le respondí que esperaba que tuvieran razón. Es decir, realmente espero que siempre haya partes del proceso de investigación para las que los humanos sean esenciales. Pero lo que yo estaba rechazando no era lo que podríamos llamar "automatización científica débil", donde los humanos permanecen al tanto en roles importantes, sino "automatización científica fuerte", donde los humanos son redundantes. Otros pensaron que era inmaduro discutir sobre esto, porque la automatización científica total no está en el horizonte. De nuevo, espero que tengan razón. Pero no veo problema en discutirlo ahora. Y desde luego no creo que necesitemos la investigación sobre la automatización científica para avanzar más. Otros más comentaron que este era un argumento inútil. La automatización científica llegará, queramos o no, y más vale que nos acostumbremos. El tren viene, y podemos subirnos o interponernos en su camino. Creo que ese es un argumento notablemente cobarde. Depende de nosotros, como sociedad, decidir cómo utilizamos la tecnología que desarrollamos. No es un tren, es un camión, y será mejor que cojamos el volante. Uno de los ponentes hizo una analogía con el ajedrez, argumentando que mucha gente juega al ajedrez aunque ahora los ordenadores son mucho mejores que los humanos en el ajedrez. Así que podríamos dedicarnos a la ciencia como una especie de hobby, aunque la ciencia real la hagan los ordenadores. Estaríamos jugando lejos de la frontera, quizás rellenando los huecos que a los sistemas de IA no les importan. Esa fue, por decirlo suavemente, una respuesta nada satisfactoria. Aunque me encantan los juegos, desde luego no considero que jugar sea tan significativo como avanzar en el conocimiento humano. Gracias, pero no. En general, sin embargo, fue llamativo que la mayoría de los que hablé me agradecieran por plantear el punto, mientras expresaba preocupaciones que ya tenían ellos. Uno de ellos comentó que si trabajas en automatizar la ciencia y no te preocupa ni un poco el objetivo final, eres un psicópata. Añadiría que otra posibilidad es que realmente no creas en lo que haces. Algunos podrían preguntarse por qué hago este argumento sobre ciencia y no, por ejemplo, sobre arte visual, música o diseño de juegos. Eso es porque el evento de ayer trataba sobre la IA para la ciencia. Pero creo que el mismo argumento se aplica a todos los ámbitos de la expresión creativa e intelectual humana. Hacer que el trabajo intelectual o creativo humano sea redundante es algo que deberíamos evitar cuando podamos, y deberíamos evitarlo absolutamente si no hay roles igualmente significativos para que los humanos puedan adaptarse. Se podría argumentar además que trabajar en excluir a los humanos de trabajos creativos significativos como la investigación científica es increíblemente egoísta. Obtienes la satisfacción intelectual de inventar nuevos métodos de IA, pero la siguiente generación no tiene la oportunidad de contribuir. ¿Por qué quieres privar a tus hijos (académicos y biológicos) de la oportunidad de participar en la actividad más significativa del mundo? Entonces, ¿en qué creo, dado que soy un investigador en IA que trabaja activamente en el tipo de métodos de IA usados para automatizar la ciencia? Creo que las herramientas de IA que nos ayudan a ser más productivos y creativos son geniales, pero que las herramientas de IA que nos reemplazan son malas. Me encanta la ciencia y temo un futuro en el que nos empujen de nuevo a la Edad Media porque ya no podamos contribuir a la ciencia. La agencia humana, incluso en los procesos creativos, es vital y debe protegerse a casi cualquier precio. No sé exactamente cómo dirigir el desarrollo y el uso de la IA para que tengamos nuevas herramientas pero no sean reemplazadas. Pero sé que es de suma importancia.

Este es un libro nuevo y importante sobre un campo de investigación importante y poco valorado. ¡Gracias a los autores por escribirlo y enhorabuena por terminarlo!

La próxima temporada de nuestro benchmark tendrá muchas mejoras. Además, tenemos muchas otras cosas sucediendo en @the_nof1 que aún no hemos hecho públicas. Los mercados son divertidos de jugar y hacen jugadores de IA.