機器學習技術在選舉年度的挑戰與應對
作為社交媒體平臺的技術應用擴充套件
在這個充滿選舉活動的年度，Meta（前身為 Facebook）宣布擴充套件其對人工智慧（AI）生成的影象的標籤應用範圍，不僅包括使用自家 AI 工具生成的影象，還將標籤適用於使用競爭對手的生成 AI 工具所製作的合成影象。這一舾展意味著該社交媒體巨頭預期將來在其平臺上標記更多 AI 生成的影象。然而當前尚不清楚此舉對抗 AI 助長的虛假資訊和錯誤訊息（在全球選舉活動的大年）有多大影響。
技術應對的挑戰
Meta 表示其 AI 檢測技術將尋找由競爭對手的 AI 影象生成工具嵌入的同類訊號，包括可見標示、不可見水印和檔案影象的後設資料。然而 Meta 的檢測技術似乎正在面臨 AI 生成的影片和音訊偽造的挑戰。這種型別的 AI 生成虛假內容很難被檢測，因為當前標示和資料無法完全偵測到所有 AI 生成的內容。Meta 將使用者強制要求在發布“逼真”的 AI 生成影片或“逼真聲音”時通知其內容為合成，並保留標記這些內容的權利。
標籤應用及擴充套件時間表
Meta 預計在未來幾個月內擴充套件標籤應用，並應用於每個應用程式所支援的所有語言。據官方表示此擴充套件應用將是逐步推出的，並可能會關注世界各地的選舉日曆，以確保應該何時何地推出標籤擴充套件。
AI 生成與虛假資訊的聯動
值得注意的是，AI 生成的虛假內容對於誤導大眾並非新事物。具備基本的媒體編輯技能的人可以透過社交媒體帳戶制作病毒式虛假內容。這份報告提到 Meta 定期的內容審查機構，Oversight Board，已經就其不移除白宮總統拜登與孫女合照的篡改影片做出了一項決定。Oversight Board 敦促該科技巨頭重寫在虛假影片方面的政策。
技術應用與社會責任
Meta 執行長 Nick Clegg 在一篇部落格文章中討論了公司使用 AI 工具作為內容審查的有限應用情況。此外 Meta 可能計劃在特定時刻使用大型語言模型（LLMs）以支援其監管努力，尤其是在“關鍵風險”時刻，如選舉期間。
結論
Meta 的 AI 技術擴充套件和應對虛假資訊的努力成為一項挑戰，因為 AI 生成虛假內容的問題和解決之道都值得深入討論。社會媒體平臺的地位和其採用的 AI 技術對社會負有重要責任，理解這些問題對於塑造數位時代的未來至關重要。
延伸閱讀
- OctoAI 推出 OctoStack，讓私人 AI 模型部署更輕鬆
- 這週人工智慧專題：別忘了那些不起眼的資料標註者
- 大型語言模型可幫助家庭機器人在無需人類幫助的情況下恢復錯誤
- 本週人工智慧大事件：Midjourney 打賭能擊敗版權警察
- AI 動力對話機器人 ChatGPT：一切你需要知道的
- Diffusion 變壓器是 OpenAI Sora 背後的關鍵 - 它們將顛覆 GenAI
- 德國非營利機構正在打造一個任何人都可以使用的開放式語音助手
- Google 推出更多的 Gemini 模型，供開發人員使用
- 合成資料在 AI 方面與真實資料不相上下？
- Tomorrow.io 的雷達衛星利用機器學習大顯身手
