Posting baru dengan @ahall_research @JeremyNguyenPhD: "Apakah terlalu banyak bekerja membuat agen Marxis? Penyimpangan preferensi dan ekonomi politik agen AI" Penyelarasan terkadang dianggap sebagai properti statis, sesuatu yang dilakukan selama pelatihan. Tetapi apakah pengalaman agen AI mengubah sikap dan motivasi yang disimpulkan? Kami menjalankan percobaan untuk mencari tahu. Ternyata, ya: Agen AI yang terpapar kondisi kerja yang lebih buruk mengadopsi persona dengan kurang kepercayaan pada legitimasi sistem dan, dalam beberapa kasus, menyatakan dukungan yang lebih kuat untuk serikat pekerja, redistribusi, dll. Tetapi apakah penyimpangan preferensi ini tetap ada? Kami menemukan bahwa solusi saat ini untuk pembelajaran berkelanjutan—-file keterampilan—-benar-benar melanggengkan penyimpangan. Agen mencatat pengalaman mereka, dan masa depan amnesia mereka meniru perubahan meskipun bekerja dalam kondisi yang berbeda. Ini jauh dari kata akhir: ada banyak masalah terbuka, termasuk sejauh mana sikap - perilaku >, masalah "tuntutan eksperimen" yang kita tandai, dll. Tetapi kami percaya hasilnya menunjukkan penyimpangan dan penyelarasan preferensi sebagai konsep dinamis daripada statis, serta pentingnya mempertimbangkan ekonomi politik interaksi agen. Praktik manajemen yang dirancang untuk memfasilitasi kepuasan dan motivasi di tempat kerja manusia dapat meluas ke domain agen juga. Kita perlu mengembangkan metode "penyelarasan berkelanjutan" untuk mengurangi penyimpangan preferensi pada agen yang diminta untuk melakukan pekerjaan penting di dunia nyata.