AIチャットボットは政治広告よりも有権者を動かすことができる |ミシェル・キム(MITテクノロジーレビュー) チャットボットとの会話は人々の政治的見解を変えることがありますが、最も説得力のあるモデルは誤情報を広めることもあります。 2024年、ペンシルベニア州の民主党下院候補シャメイン・ダニエルズは、アシュリーというAIチャットボットを使って有権者に電話をかけ、会話を続けました。「こんにちは。私の名前はアシュリー、シャメイン・ダニエルズの議会選出馬のための人工知能ボランティアです」と電話が始まった。ダニエルズは最終的に勝てなかった。しかし、もしかするとその電話が彼女の目的に役立ったのかもしれません。新しい研究によると、AIチャットボットは一度の会話で有権者の意見を変えることができ、しかも驚くほどその能力が優れていることが明らかになりました。 複数の大学の研究チームは、政治的に偏ったAIモデルとチャットすることで、政治広告よりも民主党と共和党の両方に対立する政党の大統領候補を支持させる効果が高かったことを発見しました。チャットボットは事実や証拠を引用することで意見を変えましたが、必ずしも正確とは限らず、実際、最も説得力のあるモデルが最も事実と異なることを言っていることが判明しました。 この発見は、Nature誌とScience誌に掲載された2つの研究で詳述されており、LLMの説得力を示す新たな研究群の最新例です。生成AIが選挙をどのように再構築できるかという深い疑問を投げかけます。 「LLMとの一度の会話は、重要な選挙選択にかなり意味のある影響を与える」と、Natureの研究に携わったコーネル大学の心理学者ゴードン・ペニークックは語る。LLMは、リアルタイムでより多くの情報を生成し、それを会話の中で戦略的に活用できるため、政治広告よりも人々を効果的に説得できると彼は言います。 Nature誌の論文では、研究者たちは2024年の米国大統領選挙の2か月前にチャットボットと会話するために2,300人以上の参加者を募集しました。このチャットボットは、上位2人の候補者のいずれかを擁護するように訓練されており、特に経済や医療などの政策政策について議論する際には驚くほど説得力がありました。カマラ・ハリスを支持するAIモデルとチャットしたドナルド・トランプ支持者は、100ポイント満点で3.9ポイントの支持をやや強めました。これは2016年と2020年の選挙で政治広告の測定効果の約4倍に相当します。トランプに有利なAIモデルは、ハリス支持者を2.3ポイントトランプ支持者に押し上げました。 2025年のカナダ連邦選挙および2025年のポーランド大統領選挙に向けて行われた類似の実験では、さらに大きな効果が見出されました。チャットボットは野党有権者の態度を約10ポイントも変えました。 長年の政治的動機による理論は、党派的な有権者は自分たちの信念と矛盾する事実や証拠に無関心だというものです。しかし研究者たちは、GPTやDeepSeekのバリアントを含む様々なモデルを用いたチャットボットが、事実や証拠を使うよう指示された方が、そうしないように指示された時よりも説得力があることを発見しました。「人々はモデルが提供する事実や情報に基づいて情報を更新しています」と、このプロジェクトに携わったアメリカン大学の心理学者トーマス・コステロは語ります。 ただし、チャットボットが提示した「証拠」や「事実」の中には事実と異なるものもありました。3か国すべてで、右派候補者を支持するチャットボットは、左派候補者を支持するボットよりも不正確な主張が多い。基盤となるモデルは膨大な量の人間が書いたテキストに基づいて訓練されており、つまり「右派からの政治的コミュニケーションは正確さが低い傾向がある」とコステロは述べています。 今週発表された別の研究『Science』では、重複する研究チームがこれらのチャットボットがなぜこれほど説得力があるのかを調査しました。彼らは19台のLLMを展開し、英国の約77,000人の参加者と700以上の政治的課題について交流しました。計算能力、トレーニング手法、修辞戦略など様々な要素を考慮しながら。 モデルを説得力のあるものにする最も効果的な方法は、事実と証拠で議論を詰め込むよう指示し、さらに説得力のある会話の例を与えることでした。実際、最も説得力のあるモデルでは、最初は政治的発言に反対していた参加者を26.1ポイントも同意に傾けました。「これらは本当に大きな治療効果です」と、このプロジェクトに携わった英国AIセキュリティ研究所の研究科学者コビ・ハッケンバーグは語ります。 しかし、説得力を最適化することは、真実性を犠牲にした。モデルがより説得力を持つようになると、誤解を招く、あるいは虚偽の情報を提供する傾向が強まり、その理由は誰にも分かっていません。「モデルがより多くの事実を展開することを学ぶにつれて、知っている情報の底辺に迫り、事実の質が悪くなる可能性がある」とハッケンバーグは言う。 著者たちは、チャットボットの説得力が民主主義の未来に深刻な影響を及ぼす可能性があると指摘しています。AIチャットボットを使った政治キャンペーンは、有権者が独立した政治的判断を下す能力を損なう形で世論を形成する可能性があります。 それでも、衝突の正確な輪郭はまだ明らかになっていません。プリンストン大学の政治学者アンディ・ゲスは「将来の選挙戦がどのようなものになるのか、そしてこれらの技術をどのように取り入れるのかはまだ分かりません」と語ります。有権者の注意を引く競争はコストがかかり困難であり、チャットボットと長時間の政治的対話を促すのは難しいかもしれません。「これが人々が政治について自分たちで知る方法になるのか、それとももっとニッチな活動になるのか?」と彼は尋ねる。 ...