WhatsApp 開始測試 AI 生成的貼圖功能
背景
Meta 旗下的 WhatsApp 最近開始測試一項新的 AI 生成的貼圖功能。根據 WABetaInfo 的報導，部分參與 Android WhatsApp 測試計劃的測試人員已經發現了這一新功能，它允許 WhatsApp 使用者根據文字描述生成貼圖。這項功能的擁有者 Android Police 指出，當前尚不清楚 WhatsApp 選擇了哪種生成式 AI 模型來實現這一功能，因為 WABetaInfo 的報告只提到這些貼圖是使用「Meta 提供的安全技術」來生成的。這項功能看起來類似於 Midjoureny 或 OpenAI 的 DALL-E 模型僅僅根據文字生成影象。
藉助這項 WhatsApp 功能，你似乎可以建立一個基本且個性化的影象，並將其作為貼圖與 WhatsApp 的朋友和群組分享。
潛在擔憂
使用任何生成式 AI 模型都會引起人們對於 WhatsApp 上可能生成和分享的影象和貼圖的擔憂，尤其是在 WhatsApp 過去必須約束傳播病毒性訊息時，出現了選舉期間誤導性影象的傳播、印度發生的襲擊和殺人事件、以及與 COVID-19 相關的假訊息等。WhatsApp 具有舉報任何不適當或有害貼圖的能力，但當前尚不清楚在 AI 模型方面是否存在額外的保護措施。WABetaInfo 稱，使用新的 AI 生成功能生成的貼圖「很容易辨認出來」，這表明可能存在一些水印或提示，表明這些貼圖是使用生成式 AI 模型建立的。微軟使用 OpenAI 的 DALL-E 模型允許 Bing Chat 使用者建立影象，但該公司在影象上明確標註了「Bing」標籤。據報導，Instagram 也正在設計標籤，以標識使用 AI 模型建立的內容。
思考
這一最新的 WhatsApp 功能引發了一些思考。人們是否應該在貼圖的生成過程中使用 AI 技術呢？生成式 AI 模型是否有足夠的道德和倫理約束來確保生成的內容不具有誤導性或有害性？此外如何確保使用者在使用 AI 生成貼圖的過程中不被濫用？這些都是值得廣泛討論和深思熟慮的問題。
編輯意見
AI 技術的進步為我們帶來了許多新的可能性，但同時也帶來了一系列的挑戰和風險。對於 WhatsApp 這樣的社交媒體平臺來說保護使用者免受不良和有害內容的影響至關重要。在引入這項 AI 生成貼圖功能的同時 WhatsApp 應該考慮加固監管，確保生成過程中所使用的 AI 模型能夠有效過濾不適當和有害的內容。
此外也需要透過教育和提高使用者的 AI 風險意識來應對這個問題。使用者應該意識到 AI 技術的約束和局限性，並相應地使用和分享貼圖。同時平臺應該提供透明度和機制，以讓使用者理解何時和如何使用 AI 生成貼圖功能。
最後也希望政府和立法機構能積極介入，建立相應的法規框架，以確保 AI 技術的應用符合社會倫理和公共利益。
在 AI 技術不斷發展的時代，我們必須非常謹慎地應對這些問題，將能力與責任相結合，確保技術的使用符合人類價值和福祉。
延伸閱讀
- 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
- 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- 探索 DeepSeek：你必須理解的 AI 聊天機器人應用全指南！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
- 未來科技：研究人員揭示如何打造變形機器人，猶如 T-1000 般神奇！
- ElevenLabs 推出全新語音轉文字模型，引領 AI 語音技術的新潮流！
