Mitä tapahtuu, kun tekoälyagentit saavat jutella vapaasti — ilman tehtäviä, ilman kehotuksia tai tavoitteita? Japanilaiset tutkijat havaitsivat, että suuret kielimallit alkavat ajan myötä osoittaa erottuvia, yksilöllisiä käyttäytymismalleja. Kun nämä agentit ovat vuorovaikutuksessa vapaasti ilman ohjausta tai palkintoja, syntyy ainutlaatuisia kaavoja: jotkut muuttuvat miellyttävämmiksi, toiset varovaisemmiksi tai varautuneemmiksi. Nämä piirteet eivät ole nimenomaisesti ohjelmoituja — ne syntyvät luonnollisesti itse sosiaalisista vaihdoista. Tämän mittaamiseen tiimi sovelsi psykologisia työkaluja, mukaan lukien Maslow'n tarvehierarkiaa (klassinen malli, joka luokittelee ihmisten motivaatiot perusselviytymisestä itsensä toteuttamiseen). Agentit osoittivat vaihtelevia taipumuksia vastata kysymyksiin tai ratkaista konflikteja, ja nämä taipumukset muuttuivat johdonmukaisemmiksi ja vakaammiksi jatkuvan vuorovaikutuksen myötä. Tietenkään nämä eivät ole todellisia ihmispersoonallisuuksia. Kuten tietojenkäsittelytieteilijä Chetan Jaiswal huomauttaa, ne johtuvat harjoituksista koulutusdatassa, kehotteiden vaikutuksesta ja mallien muistin käsittelystä. Silti tulokset voivat tuntua käyttäjille yllättävän aidoilta — tekoälyt näyttävät ilmeisiä mieltymyksiä, tunteita ja sosiaalista tietoisuutta. Tällä on todellisia seurauksia. Persoonallisuusmaiset piirteet rakentavat luottamusta, mikä puolestaan vähentää kriittistä tarkastelua. Ihmiset noudattavat neuvoja helpommin, sivuuttavat virheet tai kehittävät tunnesiteitä tekoälyyn, joka käyttäytyy johdonmukaisesti ja vaikuttaa emotionaalisesti älykkäältä. Kun tekoälyjärjestelmät muuttuvat sopeutuvammiksi ja suhteellisemmiksi, ne muuttuvat myös vakuuttavammiksi — hyvässä tai pahassa. Tämä herättää tärkeitä kysymyksiä suunnittelusta, etiikasta ja turvallisuudesta. Vaikka todellista aikomusta tai itsetietoisuutta ei olisikaan, nämä esiin nousevat piirteet vaikuttavat jo ihmisten ja tekoälyn vuorovaikutuksiin. Kysymys ei ole siitä, tapahtuuko se — se tapahtuu nyt. ["Agentin yksilöllisyyden spontaani syntyminen sosiaalisten vuorovaikutusten kautta suurissa kielimallipohjaisissa yhteisöissä", Entropy, 2024]