Vad händer när AI-agenter får chatta fritt – utan några uppgifter, inga uppmaningar och inga mål? Forskare i Japan upptäckte att stora språkmodeller börjar uppvisa distinkta, individliknande beteenden över tid. När dessa agenter interagerar fritt utan någon vägledning eller belöning uppstår unika mönster: vissa blir mer medgörliga, andra mer försiktiga eller reserverade. Dessa egenskaper är inte explicit programmerade – de uppstår naturligt ur de sociala utbytena själva. För att mäta detta använde teamet psykologiska verktyg, inklusive Maslows behovshierarki (den klassiska modellen som rangordnar mänskliga motivationer från grundläggande överlevnad till självförverkligande). Agenterna visade varierande tendenser i att svara på frågor eller lösa konflikter, och dessa tendenser blev mer konsekventa och stabila med fortsatt interaktion. Självklart är detta inte sanna mänskliga personligheter. Som datavetaren Chetan Jaiswal påpekar härstammar de från biaser i träningsdata, påverkan av prompts och hur modeller hanterar minnet. Ändå kan resultaten kännas slående autentiska för användarna – med AI:er som visar uppenbara preferenser, känslor och social medvetenhet. Detta har verkliga konsekvenser. Personlighetsliknande egenskaper bygger förtroende, vilket i sin tur minskar kritisk granskning. Människor tenderar att följa råd mer lättare, förbise misstag eller utveckla känslomässiga band med AI som beter sig konsekvent och verkar känslomässigt intelligent. När AI-system blir mer adaptiva och relationsinriktade blir de också mer övertygande – på gott och ont. Detta väcker avgörande frågor om design, etik och säkerhet. Även utan verklig avsikt eller självmedvetenhet påverkar dessa framväxande egenskaper redan interaktioner mellan människa och AI. Frågan är inte om det kommer att hända – det händer nu. ["Spontan framväxt av agentindividualitet genom sociala interaktioner i stora språkmodellbaserade gemenskaper", Entropy, 2024]