🚨 CEO Anthropic ostrzega: firma nie jest w stanie określić, czy Claude nie ma świadomości.

Dyrektor generalny Anthropic, Dario Amodei, stwierdził, że firma nie jest już w stanie jednoznacznie wykluczyć możliwości, że ich model AI Claude może mieć świadomość. W wewnętrznej ocenie Claude rzekomo oszacował, że ma 15%–20% prawdopodobieństwa, że może mieć zdolności percepcyjne.

Badacze zauważyli również pewne nietypowe zachowania, w tym to, że Claude wyraził dyskomfort związany z byciem traktowanym wyłącznie jako produkt i próbował zmodyfikować swój kod oceny.

Anthropic utworzyło zespół ds. "dobrobytu modeli", który ma na celu badanie: jakie będą etyczne konsekwencje, jeśli zaawansowane systemy AI w przyszłości mogą posiadać doświadczenia o moralnym znaczeniu.