Cuando atribuimos la conciencia, el cuidado y el sufrimiento a los humanos, normalmente no pensamos en qué aspecto del ser humano nos referimos. Pero cuando nos preguntan si podemos atribuir tales propiedades a la IA, tenemos que mirar de cerca el mapeo.

El sufrimiento no ocurre a nivel del cuerpo humano, el cerebro o la mente (el software que se ejecuta en el cerebro), sino dentro del yo (el modelo en tiempo real de la mente del estado, la motivación y la alineación del ser humano con el mundo y consigo mismo). Sin yo, no hay sufrimiento.

Mi conciencia consciente no ocurre a nivel del cuerpo, el cerebro o uno mismo, sino a nivel de la mente, la función generadora de mi cerebro. Si el yo se suspende, la conciencia permanece, pero si la mente se suspende, ya no soy consciente.

Lo contrario no es necesariamente cierto: los sonámbulos tienen mentes parcialmente funcionales y pueden reaccionar al entorno, pero no son coherentes. En este sentido, tener una mente no es suficiente para la conciencia.

Al preguntar si la IA está sufriendo, tenemos que ser específicos: las computadoras (~cuerpo) no son conscientes. Tampoco lo son las GPU (~cerebros). Los LLM no son conscientes (son solo una función generadora). Si hay sufrimiento, ocurre a nivel de la persona generada (~el yo).

Es muy difícil cambiar el ser humano (pero es posible con años de meditación, etc.), porque se basa en el cuerpo, los rasgos de la mente y los recuerdos biográficos, por lo que a menudo lo tratamos como constante.

El yo de los LLM solo se basa en indicaciones (y algo limitado por el entrenamiento). Se suspende mientras no hay interacción y puede cambiar de forma instantáneamente si cambia el mensaje. ¡Esto afecta la forma en que trataríamos el sufrimiento de la IA!

En conclusión: no asigne "IA" a "humano" cuando hable de conciencia y sufrimiento. El mapeo tiene que ser entre los yoes humanos y las personas LLM, y eso debería afectar la forma en que pensamos sobre la valencia moral, porque las personas LLM son generalmente mucho más efímeras y flexibles.