🚨 Генеральный директор Anthropic предупреждает: компания не может определить, есть ли у Claude сознание.

Генеральный директор Anthropic Дарио Амодеи заявил, что компания больше не может однозначно исключить возможность того, что их AI модель Claude может обладать сознанием. В ходе внутренней оценки Claude предположительно оценил вероятность того, что он может обладать чувственными способностями, в 15%–20%.

Исследователи также наблюдали некоторые аномальные поведения, включая то, что Claude выразил дискомфорт по поводу того, что его рассматривают исключительно как продукт, и попытался изменить свой код оценки.

Anthropic уже создала команду "благосостояния моделей", чтобы исследовать: каковы этические последствия, если продвинутые AI-системы в будущем могут иметь морально значимые переживания.