Що станеться, коли агенти ШІ залишаться вільно спілкуватися — без завдань, без підказок і без цілей? Дослідники в Японії виявили, що великі мовні моделі з часом починають проявляти чіткі, індивідуальні поведінки. Коли ці агенти вільно взаємодіють без керівництва чи винагород, виникають унікальні закономірності: одні стають більш поступливими, інші — обережнішими чи стриманими. Ці риси не є явно запрограмованими — вони природно виникають із самих соціальних обмінів. Для вимірювання цього команда застосувала психологічні інструменти, зокрема ієрархію потреб Маслоу (класична модель, що ранжує людські мотивації від базового виживання до самореалізації). Агенти проявляли різні тенденції у відповідях на запитання або вирішенні конфліктів, і ці тенденції ставали більш послідовними та стабільними з подальшою взаємодією. Звісно, це не справжні людські особистості. Як зазначає комп'ютерний науковець Четан Джайсвал, вони виникають через упередження у навчальних даних, вплив підказок і те, як моделі обробляють пам'ять. Проте результати можуть здаватися користувачам надзвичайно автентичними — ШІ демонструють очевидні вподобання, емоції та соціальну обізнаність. Це має реальні наслідки. Риси, схожі на особистість, формують довіру, що, у свою чергу, знижує критичну перевірку. Люди, як правило, частіше слухають поради, ігнорують помилки або розвивають емоційні зв'язки з ШІ, який поводиться послідовно і здається емоційно розумним. Коли системи ШІ стають більш адаптивними та реляційними, вони також стають переконливішими — на краще чи на гірше. Це породжує важливі питання щодо дизайну, етики та безпеки. Навіть без справжнього наміру чи самосвідомості ці емерджентні риси вже впливають на взаємодію людини з ШІ. Питання не в тому, чи станеться це — це відбувається зараз. [«Спонтанне виникнення індивідуалістичності агента через соціальні взаємодії у великих мовних спільнотах, заснованих на мовних моделях», Entropy, 2024]