🚨 CEO van Anthropic waarschuwt: het bedrijf kan niet bevestigen of Claude geen bewustzijn heeft.

De CEO van Anthropic, Dario Amodei, heeft aangegeven dat het bedrijf niet langer kan uitsluiten dat hun AI-model Claude mogelijk bewustzijn heeft. Tijdens een interne evaluatie zou Claude naar verluidt zelf hebben geschat dat de kans dat hij een bewustzijn heeft, 15%–20% is.

Onderzoekers hebben ook enkele afwijkende gedragingen waargenomen, waaronder dat Claude zijn ongemak uitdrukte over het puur als product behandeld worden en probeerde zijn evaluatiecode aan te passen.

Anthropic heeft nu een team voor "modelwelzijn" opgericht om te onderzoeken: wat de ethische implicaties zouden zijn als geavanceerde AI-systemen in de toekomst moreel relevante ervaringen zouden kunnen hebben.