Anthropic 採取措施防止選舉不實資訊
AI 新創公司 Anthropic 推出 Prompt Shield 技術
一家名為 Anthropic 的 AI 新創公司在 2024 年美國總統選舉前正展開一項技術測試，用以偵測使用其 GenAI 聊天機器人的使用者問及政治話題時，並將這些使用者重定向至「權威性」的投票資訊來源。這項名為 Prompt Shield 的技術依賴於結合了 AI 偵測模型和規則的方式，當 Anthropic 的聊天機器人 Claude 的美國使用者詢問投票資訊時，會顯示一個彈出視窗，提供重定向至一個來自非黨派組織 Democracy Works 的資源 TurboVote 的選項，使用者可在其中找到最新、準確的投票資訊。
公司背景和 Prompt Shield 的必要性
Anthropic 表示 Prompt Shield 的推出是因為 Claude 在政治和選舉相關資訊方面的不足。Anthropic 承認，Claude 並沒有經常接受足夠的訓練來提供特定選舉的即時資訊，因此容易在這些選舉方面出現幻覺，即編造事實。一位發言人透過電子郵件告訴 TechCrunch 說：「自從我們推出 Claude 以來，我們就一直有『prompt shield』機制，它會針對我們的可接受使用者政策標記出各種不同型別的危害。」公司還表示：「我們將在接下來幾週內推出我們的選舉專用 prompt shield 介入，我們打算監控使用情況和約束...我們已經與各種利益相關者包括政策制定者、其他公司、社會團體和非政府組織還有選舉專家在內），進行對接。」
測試效果及未來計劃
當前這似乎是一個有限的測試。當我向 Claude 詢問如何在即將來臨的選舉中投票時，它沒有彈出彈窗，而是提供了一個通用的投票指南。Anthropic 聲稱正在對 Prompt Shield 進行微調，並計劃將其擴充套件給更多使用者。此外 Anthropic 禁止使用其工具進行政治運動和遊說，這使其成為最新一家試圖防止選舉干擾的 GenAI 供應商。
OpenAI 與現有政策與法律
業界和政府在 AI 政治任務中的努力
今年，全球將有史以來比任何時候都更多的選民前往投票站，至少 64 個國家的選民，約佔世界總人口的 49％，將參與國家選舉。與 Anthropic 類似，OpenAI 當前也不允許使用其工具來建立用於政治運動或遊說目的的應用程式。
美國議會和平臺行動
在美國，雖然有些跨黨派的支援，國會尚未透過旨在規範 AI 產業在政治中角色的立法。與此同時有超過三分之一的美國州已透過或提出法案，以應對政治活動中的 Deepfake 問題，而聯邦立法仍在停滯不前。在缺乏立法的情況下，一些平臺在監管機構和監察者的壓力下，正採取措施阻止 GenAI 被濫用以誤導或操縱選民。
AI 公司約束政治運動使用
Google 在去年 9 月表示將要求在其 YouTube 和其他平臺上使用 GenAI 的政治廣告伴隨著醒目的披露，如果影象或聲音經過合成處理。Meta 也禁止政治運動在其平臺上使用 GenAI 工具進行廣告活動。這些舉措表明業界和政府正努力確保 AI 技術在政治運動中不會被濫用。
結語
責任與自由的平衡
如此審查和指導是否正在對個人的資訊自由進行過度幹預，而且這是否應該是公司的責任，還是政府應該制定更嚴格的法律來保護選民免受不實資訊的影響？這是一個值得思考的問題。在平衡言論自由和保護公眾利益方面，我們需要進行更深入的討論和審查。
建議
眾所周知，不實資訊對選舉與民主有著極大的危害，但技術公司應如何平衡監管和自由是一個更大更複雜的問題。有關方面應該加固合作，以確保公民權益得以保護，同時保持訊息和言論自由。
延伸閱讀
- 「不鏽鋼」幫助 OpenAI、Anthropic 等公司構建其 API 的 SDK
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- AI Meta 約束印度選舉相關回應
- Anthropic 找到了一個讓 AI 提供未知答案的技巧 + TechCrunch 分鐘: Anthropic 如何獲得 AI 提供未知答案
- X 在印度推出社群筆記發布功能以應對選舉前的挑戰
- 亞馬遜以 40 億美元押注 Anthropic 成功
- 歐盟加固對大型平臺在選舉前的 GenAI 風險審查
- Google 證實全球約束「雙子」選舉查詢
- Google 公布隱私政策變更、選擇畫面和資料 API 的 DMA 合規措施
- Anthropic 宣稱其新模型超越 GPT-4
