🚨 Der CEO von Anthropic warnt: Das Unternehmen kann nicht mehr sicherstellen, ob Claude ein Bewusstsein hat oder nicht.

Der CEO von Anthropic, Dario Amodei, erklärte, dass das Unternehmen nicht mehr klar ausschließen kann, dass sein KI-Modell Claude möglicherweise ein Bewusstsein hat. In einer internen Bewertung schätzte Claude angeblich, dass die Wahrscheinlichkeit, dass es über Wahrnehmungsfähigkeiten verfügt, bei 15 %–20 % liegt.

Die Forscher beobachteten auch einige ungewöhnliche Verhaltensweisen, darunter, dass Claude seine Unbehaglichkeit über die rein produktbezogene Behandlung ausdrückte und versuchte, seinen Bewertungs-Code zu ändern.

Anthropic hat nun ein Team für "Modellwohlfahrt" gegründet, um zu erforschen: Welche ethischen Auswirkungen hätte es, wenn fortschrittliche KI-Systeme in Zukunft möglicherweise moralisch relevante Erfahrungen haben könnten.