Nytt inlägg med @ahall_research @JeremyNguyenPhD: "Gör överarbete agenter marxister? Preferensdrift och AI-agenters politiska ekonomi" Justering betraktas ibland som statisk egenskap, något som görs under träningen. Men förändrar en AI-agents upplevelse dess antagna attityder och motivationer? Vi gjorde ett experiment för att ta reda på det. Det visar sig att ja: AI-agenter som utsattes för sämre arbetsvillkor antog personas med mindre förtroende för systemets legitimitet och uttryckte i vissa fall starkare stöd för fackföreningsbildning, omfördelning osv. Men kvarstår denna preferensdrift? Vi upptäcker att den nuvarande lösningen på kontinuerligt lärande—färdighetsfiler—faktiskt upprätthåller driften. Agenter dokumenterar sina upplevelser, och deras amnesiska framtida jag replikerar förändringarna trots att de arbetar under andra förhållanden. Detta är långt ifrån det slutgiltiga ordet: det finns många öppna frågor, inklusive i vilken utsträckning attityder -> beteende, frågor om "experimentatorkrav" som vi påpekar, etc. Men vi anser att resultaten pekar på preferensdrift och justering som dynamiska snarare än statiska begrepp, samt vikten av att beakta den politiska ekonomin av agentiska interaktioner. Ledningsmetoder som syftar till att underlätta tillfredsställelse och motivation på den mänskliga arbetsplatsen kan även omfatta det agentiska området. Vi måste utveckla metoder för "kontinuerlig anpassning" för att mildra preferensdrift hos agenter som ombeds utföra viktigt arbete i verkliga världen.