新基金應對 AI 製造的選舉假影片
近來，微軟和 OpenAI 宣布將成立一個價值 200 萬美元的基金，以應對人工智慧（AI）和深偽造（deepfakes）被用於「欺騙選民並破壞民主」的日益增長風險。這一年將見證 20 億人民在約 50 個國家的選舉中投票，因此人們對 AI 對選民的影響表示關切，尤其是那些「脆弱社區」，可能更易受到表面訊息的影響。
AI 對選舉產生的威脅
隨著生成式 AI 的崛起，包括 ChatGPT 等熱門聊天機器人，已經導致一個涉及 AI 生成的「深偽造」的主要新威脅。這些工具廣泛可用，可以讓任何人製作高知名度政治實體的假影片、照片或音訊。就在本週一，印度選舉委員會敦促政黨避免線上競選中使用深偽造和類似的虛假訊息。
主要 AI 公司的回應和承諾
在這一背景下，包括微軟和 OpenAI 在內的所有主要科技公司已簽署了自願承諾，以對抗這些風險，並制定了建立共同框架的計劃，以應對明確目的是誤導選民的深偽造。此外其他主要 AI 公司也開始透過在其軟體中引入約束來應對這些風險。例如，Google 表示將不允許其 Gemini AI 聊天機器回答有關選舉的問題，而臉書的母公司 Meta 也正在透過其 AI 聊天機器約束與選舉有關的回答。
具體舉措和解決方案
OpenAI 最近推出了一款新的深偽造檢測器，旨在幫助辨識其自己的 DALL-E 影象生成器生成的虛假內容，同時它還加入了行業組織「內容來源和真實性聯盟」的指導委員會。而微軟和 OpenAI 所提出的這個「社會韌性基金」是這一更廣泛「負責任」AI 推動的一部分，現在微軟和 OpenAI 致力於在選民和脆弱社區中「進一步推動 AI 教育和素養」。
建設更高社會韌性的目標
按照微軟的說法，這些補助金旨在促成社會對於 AI 及其在社會中的應用有更深入的理解。例如，OATS 將使用其補助金為美國 50 歲以上人士提供培訓計劃，涵蓋「AI 的基礎知識」。微軟技術和企業責任部門的企業副總裁 Teresa Hutson 在一篇部落格中表示：“社會韌性基金的推出僅是微軟和 OpenAI 致力於應對 AI 素養和教育領域的挑戰和需求的一小步。微軟和 OpenAI 將繼續致力於這一工作，並將繼續與分享我們目標和價值觀的組織和倡議合作。”
在這個訊息飽和的時代，深偽造將使選民更難以區分虛假和真實，這是對民主和社會韌性的一個嚴峻挑戰。透過推動 AI 教育和素養，我們可以提供工具給選民和脆弱社區，幫助他們更好地理解和應對這一新威脅。這不僅是科技公司的責任，也是全社會的共同努力。
延伸閱讀
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 微軟加速 AI 研發程式，直指 OpenAI 競爭對手
- 一年過去了，OpenAI 的聲音複製工具仍未問世！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- OpenAI 計劃將 Sora 影片生成器整合至 ChatGPT，開啟創意新視界！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
- 微軟完成歐洲主權雲計劃，數位主權新時代來臨！
- 「OpenAI 為付費 ChatGPT 使用者推出深度研究功能，探索智慧對話的新境界！」
- 《OpenAI 為何尚未將深度研究成果引入其 API？背後原因大揭密！》
