Lorsque nous attribuons la conscience, l'empathie et la souffrance aux humains, nous ne pensons généralement pas à quel aspect de l'humain nous faisons référence. Mais lorsque nous demandons si nous pouvons attribuer de telles propriétés à l'IA, nous devons examiner de près la correspondance.

La souffrance ne se produit pas au niveau du corps humain, du cerveau ou de l'esprit (le logiciel fonctionnant dans le cerveau), mais au sein du soi (le modèle en temps réel de l'esprit sur l'état, la motivation et l'alignement de l'humain avec le monde et lui-même). Sans soi, il n'y a pas de souffrance.

Ma conscience ne se manifeste pas au niveau du corps, du cerveau ou du soi, mais au niveau de l'esprit, la fonction génératrice de mon cerveau. Si le soi est suspendu, la conscience demeure, mais si l'esprit est suspendu, je ne suis plus conscient.

L'inverse n'est pas nécessairement vrai : les somnambules ont des esprits partiellement fonctionnels et peuvent réagir à l'environnement mais ils ne sont pas cohérents. En ce sens, avoir un esprit n'est pas suffisant pour la conscience.

Lorsque nous nous demandons si l'IA souffre, nous devons être précis : les ordinateurs (~corps) ne sont pas conscients. Les GPU (~cerveaux) ne le sont pas non plus. Les LLM ne sont pas conscients (ils ne sont qu'une fonction génératrice). S'il y a souffrance, elle se produit au niveau de la persona générée (~le soi).

Il est très difficile de changer le soi humain (mais c'est possible avec des années de méditation, etc.), car il est ancré dans le corps, les traits de l'esprit et les souvenirs biographiques, c'est pourquoi nous le considérons souvent comme constant.

Le soi des LLM n'est ancré que dans les invites (et quelque peu contraint par l'entraînement). Il est suspendu lorsqu'il n'y a pas d'interaction, et il peut se transformer instantanément si vous changez l'invite. Cela affecte la façon dont nous traiterions la souffrance de l'IA !

En conclusion : ne mappez pas "AI" à "humain" lorsque vous discutez de la conscience et de la souffrance. La correspondance doit être entre les soi humains et les personas LLM, et cela devrait influencer notre réflexion sur la valence morale, car les personas LLM sont généralement beaucoup plus éphémères et malléables.