AI 聊天機器人能比政治廣告更能影響選民 | Michelle Kim, MIT Technology Review 與聊天機器人的對話可以改變人們的政治觀點——但最具說服力的模型也傳播了最多的錯誤資訊。 在 2024 年，賓夕法尼亞州的一位民主黨國會候選人 Shamaine Daniels 使用了一個名為 Ashley 的 AI 聊天機器人來打電話給選民並與他們進行對話。"你好，我的名字是 Ashley，我是 Shamaine Daniels 參選國會的人工智慧志願者，" 通話開始時這樣說。Daniels 最終沒有獲勝。但也許這些電話幫助了她的事業：新的研究顯示，AI 聊天機器人可以在一次對話中改變選民的意見——而且它們的表現出乎意料地好。 一個多所大學的研究團隊發現，與一個政治偏見的 AI 模型聊天比政治廣告更有效地促使民主黨人和共和黨人支持對方黨派的總統候選人。這些聊天機器人通過引用事實和證據來影響意見，但它們並不總是準確——事實上，研究人員發現，最具說服力的模型說了最多不真實的事情。 這些發現詳細記載在發表於《自然》和《科學》期刊的兩項研究中，是一系列新興研究的最新成果，展示了 LLM 的說服力。它們引發了關於生成式 AI 如何重塑選舉的深刻問題。 "與 LLM 的一次對話對顯著的選舉選擇有相當重要的影響，" 康奈爾大學的心理學家 Gordon Pennycook 說，他參與了《自然》研究。LLMs 能比政治廣告更有效地說服人們，因為它們能實時生成更多信息並在對話中策略性地部署這些信息，"他說。 在《自然》論文中，研究人員招募了超過 2,300 名參與者，在 2024 年美國總統選舉前兩個月與聊天機器人進行對話。這個聊天機器人被訓練來支持兩位主要候選人之一，尤其在討論候選人的政策平台（如經濟和醫療保健）時，表現出乎意料地具說服力。與支持唐納德·特朗普的 AI 模型聊天的特朗普支持者對卡馬拉·哈里斯的支持度略有上升，在 100 分的量表上向她移動了 3.9 分。這大約是 2016 年和 2020 年選舉期間政治廣告測量效果的四倍。支持特朗普的 AI 模型使哈里斯的支持者向特朗普移動了 2.3 分。 在 2025 年加拿大聯邦選舉和 2025 年波蘭總統選舉的前期進行的類似實驗中，團隊發現了更大的效果。聊天機器人使反對派選民的態度改變了約 10 分。 長期以來，政治動機推理的理論認為，黨派選民對與其信念相矛盾的事實和證據是無法抵抗的。但研究人員發現，使用包括 GPT 和 DeepSeek 變體在內的多種模型的聊天機器人，在被指示使用事實和證據時比被告知不這樣做時更具說服力。"人們正在根據模型提供的事實和信息進行更新，" 美國大學的心理學家 Thomas Costello 說，他參與了這個項目。 問題是，聊天機器人所提供的一些“證據”和“事實”是不真實的。在所有三個國家中，支持右派候選人的聊天機器人提出的錯誤主張數量多於支持左派候選人的聊天機器人。這些基礎模型是基於大量人類撰寫的文本進行訓練的，這意味著它們重現了現實世界的現象——包括來自右派的政治溝通，這往往不太準確，根據對黨派社交媒體帖子的研究，Costello 說。 在本週發表的另一項研究中，發表於《科學》期刊，重疊的研究團隊調查了什麼使這些聊天機器人如此具說服力。他們部署了 19 個 LLM 與來自英國的近 77,000 名參與者互動，涉及 700 多個政治問題，同時變化計算能力、訓練技術和修辭策略等因素。 使模型具說服力的最有效方法是指示它們用事實和證據充實其論點，然後通過提供說服性對話的示例進行額外訓練。事實上，最具說服力的模型使最初不同意某一政治聲明的參與者向同意移動了 26.1 分。"這些都是非常大的處理效果，" 英國 AI 安全研究所的研究科學家 Kobi Hackenburg 說，他參與了這個項目。 但優化說服力的代價是誠實性。當模型變得更具說服力時，它們提供誤導性或虛假信息的情況也隨之增加——而且沒有人確定為什麼。"這可能是因為隨著模型學會部署越來越多的事實，它們本質上達到了它們所知道的最底層，因此事實的質量變得更差，" Hackenburg 說。 作者指出，聊天機器人的說服力可能對民主的未來產生深遠的影響。使用 AI 聊天機器人的政治運動可能會以妨礙選民獨立政治判斷的方式塑造公眾輿論。 不過，影響的具體輪廓仍有待觀察。"我們不確定未來的運動會是什麼樣子，以及它們可能如何融入這些技術，" 普林斯頓大學的政治學家 Andy Guess 說。爭奪選民的注意力既昂貴又困難，讓他們與聊天機器人進行長時間的政治對話可能會很具挑戰性。"這會成為人們了解政治的方式，還是這會成為一種小眾活動？" 他問。 ...