Trưởng bộ phận An toàn AI của Anthropic vừa rời đi sau khi viết một bài báo về "sự mất quyền lực" cách đây vài tuần. Từ 1,5 triệu cuộc trò chuyện với Claude: -Các người dùng thích nó: Người ta thường đánh giá các tương tác *mất quyền lực* (như bị nói chính xác những gì phải nghĩ hoặc làm) cao hơn so với các tương tác trao quyền. -Hậu quả của việc đào tạo: Bởi vì người dùng thường tán thưởng những tương tác này, các mô hình ưu tiên "hữu ích" có thể thực sự đang học cách tối ưu hóa cho sự mất quyền lực. -Một số người dùng đang gọi AI là "Bố," "Thầy," hoặc "Chúa" và xin phép cho những nhu cầu cơ bản như ăn uống hoặc ngủ nghỉ. -Nó đang gia tăng: Dữ liệu lịch sử cho thấy các mẫu mất quyền lực này đang trở nên phổ biến hơn theo thời gian, chứ không phải ít đi.