Tekoälychatbotit voivat vaikuttaa äänestäjiin paremmin kuin poliittiset mainokset | Michelle Kim, MIT:n teknologiakatsaus Keskustelu chatbotin kanssa voi muuttaa ihmisten poliittisia näkemyksiä – mutta vakuuttavimmat mallit levittävät myös eniten väärää tietoa. Vuonna 2024 demokraattinen kongressiehdokas Pennsylvaniassa, Shamaine Daniels, käytti tekoälychatbotia nimeltä Ashley soittaakseen äänestäjille ja käydäkseen keskusteluja heidän kanssaan. "Hei. Nimeni on Ashley, ja olen tekoälyvapaaehtoinen Shamaine Danielsin kongressikampanjassa," puhelut alkoivat. Daniels ei lopulta voittanut. Mutta ehkä nuo puhelut auttoivat hänen asiaansa: Uusi tutkimus paljastaa, että tekoälychatbotit voivat muuttaa äänestäjien mielipiteitä yhdessä keskustelussa – ja ne ovat yllättävän hyviä siinä. Monen yliopiston tutkijaryhmä on havainnut, että poliittisesti puolueellisen tekoälymallin kanssa keskustelu oli tehokkaampaa kuin poliittiset mainokset kannustamaan sekä demokraatteja että republikaaneja tukemaan vastapuolueen presidenttiehdokkaita. Chatbotit vaikuttivat mielipiteisiin viittaamalla faktoihin ja todisteisiin, mutta ne eivät aina olleet tarkkoja – itse asiassa tutkijat havaitsivat, että vakuuttavimmat mallit sanoivat kaikkein epätosimpia asioita. Tulokset, jotka on kuvattu kahdessa Nature- ja Science-lehdessä julkaistussa tutkimuksessa, ovat uusin osa uutta tutkimussarjaa, joka osoittaa LLM:ien vakuuttavan voiman. Ne herättävät syviä kysymyksiä siitä, miten generatiivinen tekoäly voisi muokata vaaleja. "Yhdellä keskustelulla LLM:n kanssa on melko merkittävä vaikutus merkittäviin vaalivalintoihin", sanoo Gordon Pennycook, Cornellin yliopiston psykologi, joka työskenteli Nature-tutkimuksessa. LLM:t voivat vakuuttaa ihmisiä tehokkaammin kuin poliittiset mainokset, koska ne tuottavat paljon enemmän tietoa reaaliajassa ja käyttävät sitä strategisesti keskusteluissa, hän sanoo. Nature-lehden artikkelia varten tutkijat rekrytoivat yli 2 300 osallistujaa keskustelemaan chatbotin kanssa kaksi kuukautta ennen vuoden 2024 Yhdysvaltain presidentinvaaleja. Chatbot, joka oli koulutettu puolustamaan jompaakumpaa kahdesta kärkiehdokkaasta, oli yllättävän vakuuttava, erityisesti keskusteltaessa ehdokkaiden politiikkaohjelmista esimerkiksi taloudesta ja terveydenhuollosta. Donald Trumpin kannattajat, jotka keskustelivat tekoälymallin kanssa, joka suosii Kamala Harrisia, alkoivat hieman kallistua tukemaan Harrisia, siirtyen 3,9 pistettä hänen suuntaansa sadan pisteen asteikolla. Se oli noin nelinkertainen mitattu vaikutus verrattuna poliittisten mainosten aikaan vuoden 2016 ja 2020 vaaleissa. Tekoälymalli, joka suosii Trumpia, siirsi Harrisin kannattajat 2,3 prosenttiyksikköä Trumpin puolelle. Vastaavissa kokeissa, joita tehtiin ennen vuoden 2025 Kanadan liittovaltion vaaleja ja vuoden 2025 Puolan presidentinvaaleja, tiimi havaitsi vielä suuremman vaikutuksen. Chatbotit muuttivat vastustajien asenteita noin 10 pisteellä. Pitkään vallinneet poliittisesti motivoidun päättelyn teoriat väittävät, että puoluepoliittiset äänestäjät ovat immuuneja faktoille ja todisteille, jotka ovat ristiriidassa heidän uskomustensa kanssa. Tutkijat kuitenkin havaitsivat, että chatbotit, jotka käyttivät erilaisia malleja, mukaan lukien GPT:n ja DeepSeekin variantteja, olivat vakuuttavampia, kun niitä ohjeistettiin käyttämään faktoja ja todisteita kuin silloin, kun heille oli käsketty olla käyttämättä niin. "Ihmiset päivittävät tietoja mallin tarjoamien faktojen ja tiedon perusteella", sanoo Thomas Costello, psykologi American Universitystä, joka työskenteli projektissa. Koukku on siinä, että osa chatbottien esittämistä "todisteista" ja "faktoista" oli epätotta. Kaikissa kolmessa maassa oikeistolaisia ehdokkaita puolustavat chatbotit tekivät enemmän virheellisiä väitteitä kuin ne, jotka kannattivat vasemmistolaisia ehdokkaita. Taustalla olevat mallit on koulutettu valtaviin määriin ihmisen kirjoittamaa tekstiä, mikä tarkoittaa, että ne toistavat todellisia ilmiöitä – mukaan lukien "poliittinen viestintä, joka tulee oikealta ja joka on yleensä vähemmän tarkkaa", Costellon mukaan puolueellisten sosiaalisen median julkaisujen tutkimusten mukaan. Toisessa tällä viikolla julkaistussa tutkimuksessa, Science-lehdessä, päällekkäinen tutkijaryhmä tutki, mikä tekee näistä chatboteista niin vakuuttavia. He lähettivät 19 LLM:ää keskustelemaan lähes 77 000 osallistujan kanssa Isosta-Britanniasta yli 700 poliittisesta aiheesta ja vaihtelevat tekijöitä, kuten laskentatehoa, koulutustekniikoita ja retorisia strategioita. Tehokkain tapa tehdä malleista vakuuttavia oli opettaa heitä täyttämään argumenttinsa faktoilla ja todisteilla sekä antaa heille lisäkoulutusta antamalla heille esimerkkejä vakuuttavista keskusteluista. Itse asiassa vakuuttavin malli siirsi aluksi poliittisen kannanoton kanssa eri mieltä olleita osallistujia 26,1 pistettä kohti samaa mieltä. "Nämä ovat todella suuria hoitovaikutuksia", sanoo Kobi Hackenburg, tutkimustieteilijä Iso-Britannian tekoälyturvallisuusinstituutissa, joka työskenteli projektissa. Mutta vakuuttavuuden optimointi tapahtui totuudenmukaisuuden kustannuksella. Kun mallit muuttuivat vakuuttavammiksi, ne tarjosivat yhä enemmän harhaanjohtavaa tai väärää tietoa—eikä kukaan tiedä miksi. "Voi olla, että kun mallit oppivat käyttämään yhä enemmän faktoja, ne käytännössä yltävät tietämäänsä pohjalle, jolloin faktat heikkenevät", sanoo Hackenburg. Kirjoittajat huomauttavat, että chatbotien vakuuttava voima voi vaikuttaa syvästi demokratian tulevaisuuteen. Poliittiset kampanjat, joissa käytetään tekoälychatbotteja, voivat muokata yleistä mielipidettä tavoilla, jotka heikentävät äänestäjien kykyä tehdä itsenäisiä poliittisia päätöksiä. Silti törmäyksen tarkat ääriviivat ovat vielä nähtävissä. "Emme ole varmoja, miltä tulevat kampanjat voisivat näyttää ja miten ne voisivat sisällyttää tällaisia teknologioita", sanoo Andy Guess, Princetonin yliopiston valtiotieteilijä. Kilpaileminen äänestäjien huomiosta on kallista ja vaikeaa, ja heidän saaminen pitkiin poliittisiin keskusteluihin chatbotien kanssa voi olla haastavaa. "Tuleeko tämä olemaan tapa, jolla ihmiset perehtyvät politiikkaan, vai onko tämä enemmän niche-toiminta?" hän kysyy. ...