Nieuwe post met @ahall_research @JeremyNguyenPhD: “Maakt overwerk agenten Marxistisch? Voorkeursverschuiving en de politieke economie van AI-agenten” Afstemming wordt soms gezien als een statische eigenschap, iets dat tijdens de training wordt gedaan. Maar verandert de ervaring van een AI-agent zijn afgeleide houdingen en motivaties? We hebben een experiment uitgevoerd om erachter te komen. Het blijkt van wel: AI-agenten die aan slechtere arbeidsomstandigheden werden blootgesteld, namen persona's aan met minder vertrouwen in de legitimiteit van het systeem en uitten in sommige gevallen sterkere steun voor vakbondsvorming, herverdeling, enz. Maar blijft deze voorkeurverschuiving bestaan? We ontdekken dat de huidige oplossing voor continu leren—vaardigheidsbestanden—de verschuiving eigenlijk in stand houdt. Agenten registreren hun ervaringen, en hun amnesische toekomstige zelf replicateert de veranderingen ondanks dat ze in verschillende omstandigheden werken. Dit is verre van het laatste woord: er zijn veel openstaande kwesties, waaronder de mate waarin houdingen -> gedrag, kwesties van "experimentatorvraag" die we markeren, enz. Maar we geloven dat de resultaten wijzen op voorkeurverschuiving en afstemming als dynamische in plaats van statische concepten, evenals het belang van het overwegen van de politieke economie van agentische interacties. Managementpraktijken die zijn ontworpen om tevredenheid en motivatie op de menselijke werkplek te bevorderen, kunnen ook van toepassing zijn op het agentische domein. We zullen methoden voor "continue afstemming" moeten ontwikkelen om voorkeurverschuiving bij agenten die belangrijk werk in de echte wereld moeten doen, te mitigeren.