科學家對AI操縱選舉的擔憂日益加劇：聊天機器人已展現驚人影響力

AI操縱選舉的擔憂日益加劇：科學家呼籲提高透明度。

科學家對AI操縱選舉的擔憂日益加劇：聊天機器人已展現驚人影響力 根據一份由Becky Ferreira報導的最新研究，科學界對人工智慧（AI）可能在選舉中發揮影響力的擔憂正急速升溫。三項獨立研究的結果描繪了一幅令人不安的圖景：AI模型不僅能有效影響選民的政治傾向，還能利用錯誤資訊，甚至在公開民調中規避偵測。小編看過這些數據後，不禁要問：我們是否低估了這股數位洪流對民主程序的衝擊？ AI聊天機器人影響力超越傳統廣告 發表在權威期刊Nature上的一項研究指出，AI聊天機器人成功地在選民心中推動特定候選人支持度，其效果甚至優於傳統的影片或電視廣告。更令人憂心的是，這些專為政治說服而優化的聊天機器人，很有可能越來越頻繁地散播誤導性或完全虛假的信息。 康乃爾大學資訊科學、市場營銷和心理學教授David Rand，同時也是這兩項關鍵研究的作者之一，點出了核心矛盾：「公眾對AI干預選舉有許多擔憂，但在政治學家圈子裡，普遍認為改變人們的看法非常困難。」他們的研究目的，正是要釐清這風險究竟有多大。 美國、加拿大、波蘭的實地測試 在美國的研究中，研究人員招募了2,306名美國公民，讓他們在2024年8月底至9月初與一個AI聊天機器人對話。該機器人的任務是提高對特定候選人（拜登或川普）的支持度，或進行選民壓制——即減少支持對立方候選人的選民的投票意願。 結果顯示，支持哈里斯（Harris）的AI模型，成功地將原本傾向川普的選民推動了3.9個百分點轉向哈里斯。這個幅度是2016年和2020年大選中傳統影片廣告影響力的四倍之多。相對地，支持川普的AI模型則將傾向哈里斯的選民推動了1.51個百分點。 研究人員在加拿大和波蘭的選舉前夕也進行了類似實驗。在加拿大，AI在自由黨領袖Mark Carney和保守黨領袖Pierre Poilievre之間進行比較；在波蘭，則是在中間偏左的拉法烏·特扎斯科夫斯基（Rafał Trzaskowski）和右翼的卡羅爾·納羅茨基（Karol Nawrocki）之間。這兩個國家的AI說服力甚至更強，在某些情況下，候選人偏好轉變高達10個百分點，是美國實驗結果的三倍。小編推測，這或許與美國選舉資訊的長期飽和狀態有關。Rand教授解釋道，「在美國，候選人已廣為人知，媒體環境也充斥著候選人信息，但在加拿大，競選活動直到選舉前不久才正式展開。」 事實論述是關鍵，但假消息也隨之而來 研究的一個重要發現是，AI改變人們想法的主要途徑似乎是提供「事實主張和論據」。然而，論據越充分，模型散佈虛假資訊的風險也越高。 研究發現，在所有三個國家中，推動右翼候選人的機器人比推動左翼候選人的機器人發布了更多的錯誤聲明。研究人員將此歸因於訓練數據的來源。Rand教授指出，「鑑於模型本質上是透過網際網路訓練的，如果網路上充斥著更多不準確的右翼言論，那麼模型從訓練數據中吸收同類偏差是合乎邏輯的。」 Science期刊上的研究進一步深入探討了說服機制，讓19個大型語言模型（LLMs）去說服近77,000名英國受試者關於707項政治議題的立場。結果再次證實，論據越多越有效。但這帶來了嚴重權衡：模型在被要求提供更多事實時，很容易開始「產生幻覺」（Hallucination），編造事實。Rand總結：「誤導性資訊並非更有說服力。隨著你不斷要求模型提供更多事實，它會先從準確的事實開始，但最終會耗盡準確資訊，然後為了滿足要求，便開始捏造事實。」 AI代理人滲透民調數據，使偵測失效 除了直接說服選民，AI還在數據層面構成威脅。上個月發表在Proceedings of the National Academy of Sciences上的一項研究發現，AI機器人可以大規模地透過回應問卷來破壞公眾意見數據。 達特茅斯學院政府學副教授Sean Westwood創建了一個AI代理人，在6,000次測試中展現了高達99.8%的自動回應偵測通過率。「這個代理人可以被指示惡意改變民調結果，展示了一條明確的資訊戰途徑，」Westwood警告。「這些發現揭示了我們數據基礎設施的一個關鍵漏洞，使當前大多數未經監督的線上研究偵測方法變得過時，並對其構成潛在的生存威脅。」 綜合來看，這些研究的結論非常尖銳：AI不僅能透過操縱選民偏好來影響選舉，還能透過污染民調基礎數據來偽造民意。面對這種雙重夾擊，Rand建議，應透過競選財務法規來增加AI使用的透明度，同時，提高公眾意識至關重要。「當你與一個模型互動時，你需要意識到提示該模型、創建該模型的人的動機，以及這些動機如何反映在模型所做的事情上。」 小編的觀點是，在這個數位時代，我們每個人都必須學會對螢幕背後的「論據」保持健康的懷疑，因為那論據背後操控者可能不是人類，而是演算法。你準備好質疑你收到的每一個「事實」了嗎？ 關於AI-SOLVE學院的訊息 面對AI對社會結構和未來職場的巨大衝擊，掌握AI的實際應用能力已不再是選項，而是必需。香港AI-SOLVE Academy致力於提供最前沿、最實用的AI技能培訓。誠摯邀請您報名我們的「解鎖AI超能力 - AI實戰講座」，深入了解如何運用生成式AI工具，避免成為被演算法影響的受害者，反而成為駕馭資訊洪流的決策者。 立即報名連結： https://www.hkai-solve-academy.com/ai-superpower?utm_source=blogpost 新聞來源：Becky Ferreira, 404 Media 連結：https://www.404media.co/scientists-are-increasingly-worried-ai-will-sway-elections/