政治深度假像擴散如火如荼
今年，全球數十億人將在選舉中投票。2024 年，在超過 50 個國家舉行了或將舉行高風險的競選，包括俄羅斯、臺灣、印度和薩爾瓦多。民主制度面臨艱鉅的挑戰，甚至在任何常規年份都是如此。然而這並不是一個常規的年份；人工智慧生成的虛假訊息和錯誤訊息正以前所未有的速度湧入渠道。對此卻鮮有採取有效措施。
深度假像盛行
早在 CCDH 的研究之前，人工智慧生成的深度假像已經開始蔓延至網路的最偏遠角落。世界經濟論壇引用的研究發現，2019 年至 2020 年間，深度假像增長了 900%。身份取證平臺 Sumsub 觀察到，從 2022 年到 2023 年，深度假像的數量增長了 10 倍。然而僅在過去一年左右的時間內，與選舉有關的深度假像進入了主流意識，這是因為生成影像工具的普及和這些工具的技術進步，使合成的選舉虛假訊息更加引人信服。近期 YouGov 的一項民意調查顯示，85%的美國人對誤導性影片和音訊深度假像的擴散非常擔憂或有些擔憂。美聯社-諾克公共事務研究中心的另一項調查發現，將近 60%的成年人認為 AI 工具將增加在 2024 年美國選舉週期期間虛假和誤導訊息的擴散。這引起了人們的警惕。
社交媒體的擴散
生成器可能使製作選舉深度假像變得輕而易舉，但社交媒體卻使得這些深度假像容易擴散。在 CCDH 的研究中，共同作者突顯了一個實例，特朗普參加烤肉聚會的 AI 生成圖片在一個帖子上經過事實檢查，但在其他帖子中卻沒有。這些帖子獲得了數十萬的觀看數。X 聲稱，帖子上的社區註釋將自動顯示在包含匹配媒體的帖子上。但根據 BBC 最近的報導，黑人選民鼓勵非裔美國人投票給共和黨的深度假像已經透過轉發獲得了數百萬的觀看數，儘管原始媒體已經被標記。社交媒體使得 AI 生成的深度假像可以被大量擴散，這對於政治以及民主都構成威脅。存在妥善和適當的保護機制非常重要。
解決深度假像問題
那麼，深度假像問題的解決方案是什麼？是否有解決方案？CCDH 研究的共同作者提出了一些建議。首先人工智慧工具和平臺必須提供負責任的保護措施，並投資並與研究人員合作，在產品上市前進行測試和防止越獄。其次社交媒體平臺必須提供負責任的保護措施，並投資在信任和安全方面專門保護免受生成式人工智慧產生的虛假訊息和對選舉誠信的攻擊。同時政策制定者需要利用現有法律來防止選民受到深度假像產生的選民恐嚇和剝奪選舉權利，並推動立法使得人工智慧產品更安全、透明，並使供應商更有責任。一些產業和政府部門已經朝這些方向有所行動。不過共同作者強調 AI 平臺、社交媒體公司和立法者現在必須採取行動，否則會將民主置於風險之中。
結語
深度假像問題已經成為政治和社會議題，對政治誠信和訊息傳播構成嚴重挑戰。必須採取積極的措施，包括技術、監管和法律手段，才能應對這一問題。否則，民主制度和公眾利益可能會受到長期損害。
