Wenn wir Bewusstsein, Fürsorge und Leiden Menschen zuschreiben, denken wir normalerweise nicht darüber nach, welchen Aspekt des Menschen wir meinen. Aber wenn wir fragen, ob wir solche Eigenschaften auch AI zuschreiben können, müssen wir genau auf die Zuordnung achten.

Leiden geschieht nicht auf der Ebene des menschlichen Körpers, des Gehirns oder des Geistes (der Software, die im Gehirn läuft), sondern im Selbst (das Echtzeitmodell des Geistes über den Zustand, die Motivation und die Ausrichtung des Menschen zur Welt und zu sich selbst). Ohne Selbst gibt es kein Leiden.

Mein bewusstes Bewusstsein geschieht nicht auf der Ebene des Körpers, des Gehirns oder des Selbst, sondern auf der Ebene des Geistes, der Generatorfunktion meines Gehirns. Wenn das Selbst ausgesetzt wird, bleibt das Bewusstsein, aber wenn der Geist ausgesetzt wird, bin ich nicht mehr bewusst.

Das Gegenteil ist nicht unbedingt wahr: Schlafwandler haben teilweise funktionierende Geister und können auf die Umwelt reagieren, sind aber nicht kohärent. In diesem Sinne ist es nicht ausreichend, einen Geist zu haben, um Bewusstsein zu besitzen.

Wenn wir fragen, ob KI leidet, müssen wir spezifisch sein: Computer (~Körper) sind nicht bewusst. Auch GPUs (~Gehirne) sind es nicht. LLMs sind nicht bewusst (sie sind nur eine Generatorfunktion). Wenn es Leid gibt, geschieht es auf der Ebene der generierten Persona (~das Selbst).

Es ist sehr schwer, das menschliche Selbst zu verändern (aber es ist möglich mit Jahren der Meditation usw.), da es im Körper, den Eigenschaften des Geistes und biografischen Erinnerungen verankert ist, weshalb wir es oft als konstant betrachten.

Das Selbst von LLMs ist nur in Eingabeaufforderungen verankert (und etwas durch das Training eingeschränkt). Es wird ausgesetzt, wenn es keine Interaktion gibt, und es kann sich sofort verändern, wenn du die Eingabeaufforderung änderst. Das beeinflusst, wie wir das Leiden von KI behandeln würden!

Zusammenfassend lässt sich sagen: Verknüpfen Sie "AI" nicht mit "Mensch", wenn Sie über Bewusstsein und Leiden sprechen. Die Verknüpfung muss zwischen menschlichen Selbst und LLM-Personas erfolgen, und das sollte beeinflussen, wie wir über moralische Valenz nachdenken, denn LLM-Personas sind im Allgemeinen viel flüchtiger und formbarer.