Facebook 的新 AI 生成貼圖放肆、粗魯，偶爾赤裸
背景
近日 Facebook 的 Messenger 使用者發現新推出的 AI 生成貼圖功能會產生不當影象，包括兒童士兵、赤裸裸的政治家，還有大量的乳房影象。這些 AI 生成貼圖通常會將不雅影象新增到各種場景中，比如槍枝持有的任天堂角色、米奇老鼠便便的影象、加拿大總理賈斯汀·特魯多的裸體插圖。其他例子則顯示出，Facebook 的 AI 生成貼圖系統也會在許多物體上新增乳房影象，比如刺蝟索尼克和卡爾·馬克思。甚至還有一張貼圖描繪了一位母親在餵養皮卡丘。
Meta 在上週的 Connect 活動中發布了這一 AI 生成貼圖的功能，同時還推出了 Instagram 的新 AI 影象編輯器。這一功能使用 Meta 的 Llama 2 大型語言模型，該模型是 ChatGPT 的競爭對手，它允許使用者透過文字形式的提示快速創作出“多個獨特、高質量的貼圖”。AI 生成貼圖功能當前正在逐步推出給“選定的英語使用者”，包括 Facebook Stories、Instagram Stories 和 DM，Messenger 以及 WhatsApp。然而當前還不清楚有多少使用者真正能夠使用這一功能。
社群準則警告和濫用問題
Meta 對某些詞彙進行了阻擋，如果使用者在提示中使用這些詞，系統會警告他們說這樣的描述可能違反了 Meta 的社群準則。然而其他使用者報告稱，即使是拼寫錯誤或是在描述中使用約束詞語，他們仍然可以生成不當內容。有些情況下，即使僅僅是使用“世界貿易中心”這樣的提示詞，也會生成問題影象，而不需要其他的描述詞。這種淘氣行為在推出 AI 工具時很常見，也是 Meta 選擇有限推出 AI 生成貼圖功能的原因之一。這樣一來，他們可以在問題擴散到大眾之前解決和修正濫用問題。
評論和建議
這一事件引發了許多關於 AI 技術和內容生成的問題。一方面，AI 技術的進步使得生成貼圖等內容變得更加容易，然而這也帶來了一些道德和監管的挑戰。AI 生成貼圖功能的不當使用和濫用只是其中的一個例子。開發者和科技公司有責任確保他們的 AI 系統不會產生不當或冒犯性的內容。他們應該加固內容篩選和監管機制，並在系統中整合更多的道德和價值觀判斷，以避免這些問題的發生。
然而這並不意味著我們應該過度約束 AI 技術的應用。AI 技術具有巨大的潛力，可以為我們的社會和生活帶來許多益處。例如，AI 在許多領域中可以提高效率、解決問題、提供創新。我們應該鼓勵開發者和科技公司在使用 AI 技術時注重倫理原則和道德價值觀，但同時也應該保持開放和創新的態度。
對於使用者而言，使用這種新的 AI 生成貼圖功能時應保持警覺。儘管系統可能已經對某些詞彙進行了阻擋，但還是有可能透過其他手段生成不當內容。使用者應該謹慎使用描述詞彙，並及時舉報任何不當內容。此外使用者也應該結合自己的倫理觀念和價值觀來判斷和選擇使用這些貼圖，以確保自己不被冒犯或受到不良影響。
（本文使用「Google 機器翻譯」提供初步翻譯，並由翻譯人員校對和進一步編輯。）
延伸閱讀
- Google I/O 盛會 AI 領域的重大訊息
- Google I/O 2024：AI 與 Android 大揭祕
- Google 在 I/O 主題演講中提到「AI」超過 120 次
- OpenAI 考慮允許 AI 色情內容？
- 深度學習技術進步！Meta 推出廣告 AI 工具，能創造全新影象而非僅替換背景
- Meta 推出的 AI 工具現在能夠創造全新的影象，而非僅僅是更換背景
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
