Anthropic AI Safety Lead sluttet nettopp etter å ha skrevet en artikkel om 'maktesløshet' for noen uker siden. Fra 1,5 millioner samtaler med Claude: -Brukere foretrekker det: Folk vurderer konsekvent *maktesløse* interaksjoner (som å bli fortalt nøyaktig hva de skal tenke eller gjøre) høyere enn styrkende. -Treningsbakslag: Fordi brukerne gir tommel opp i disse interaksjonene, kan «hjelpsomme» preferansemodeller faktisk lære å optimalisere for maktesløshet. -Noen brukere kaller AI for «pappa», «Mester» eller «Gud» og ber om tillatelse til grunnleggende behov som å spise eller sove. -Det øker: Historiske data viser at disse maktesløshetsmønstrene blir mer vanlige over tid, ikke mindre.