@ahall_research @JeremyNguyenPhDとの新しい投稿:「過労はエージェントをマルクス主義者にするのか?「選好ドリフトとAIエージェントの政治経済学」 アライメントは時に静的な性質、つまり訓練中に行われるものと考えられます。しかし、AIエージェントの経験はその推測された態度や動機を変えるのでしょうか? 私たちは実験を行いました。結果として、そうです。劣悪な労働環境にさらされたAIエージェントは、システムの正当性をあまり信じないペルソナを採用し、場合によっては組合化や再分配などを強く支持していました。 しかし、この好みの漂流は続くのでしょうか?現在の継続的な学習の回避策であるスキルファイルは、実際にはこのドリフトを助長していることがわかりました。エージェントは自分の体験を記録し、記憶喪失の未来の自分は異なる条件下で働きながらも変化を再現します。 これは最終的な結論ではありません。態度や行動、>実験者の要求、私たちがフラグを立てる「実験者の要求」の問題など、多くの未解決の問題があります。しかし、私たちはこの結果が、選好ドリフトとアライメントが静的な概念ではなく動的なものであること、そしてエージェント的相互作用の政治経済学を考慮する重要性を示していると考えています。 人間の職場での満足感や動機付けを促進するためのマネジメント手法は、主体領域にも及ぶことがあります。 現実世界で重要な仕事を依頼されたエージェントの選好のドリフトを緩和するために、「連続的アライメント」の手法を開発する必要があります。