Snap 計畫為 AI 動力工具新增水印
Snap 社交媒體公司日前宣布，計畫在其平臺上為 AI 生成的影象新增水印。該平臺將在影象被匯出或儲存到相簿時加入一個小鬼+閃亮圖示的標誌。Snap 打算使用這個水印來標示 AI 生成的影象，同時警告使用者移除水印將違反其條款。其他科技巨頭如微軟、Meta 和 Google 也紛紛採取措施標示或辨識使用 AI 動力工具生成的影象。Snap 當前允許付費使用者使用 Snap AI 建立或編輯 AI 生成的影象以及使用一個名為 Dreams 的自拍功能。
對 AI 生成影象新增水印的安全性和透明度實踐
在 Snap 的支援頁面上，公司表示刪除 Snap 的鬼+閃亮水印將違反其條款，但當前尚不清楚 Snap 打算如何檢測水印的移除。Snap 還進行了與 HackerOne 的合作，強化其 AI 影象生成工具，並推出了一個漏洞獎金計劃。此外公司還表示已建立了一個審查流程，以在開發過程中消除使用 AI 動力鏡頭時可能存在的問題。
Snap 在其安全和透明度實踐的部落格文章中解釋說，他們會為 AI 動力功能（如鏡頭）新增可視標記，以提供更多訊息給使用者。公司還指出，他們為從 Dream 自拍等工具生成的 AI 影象新增了上下文卡片，以更好地向使用者提供訊息。
AI 與倫理
這項舉措引出了 AI 應用在倫理層面上的討論。AI 生成的影象可能受到有關偏見和個人隱私權的爭議影響。因此 Snap 的做法應該透明化，使用者應該清楚知道看到的影象是由 AI 生成的。公司表示他們希望對於他們應用中的所有功能，特別是 AI 動力體驗，所有使用者都有公平的存取和期望，因此加固了測試以減少潛在的有偏見的 AI 結果。
總結與展望
Snap 給 AI 生成影象新增水印的舉措在保護使用者權益和提高透明度方面具有積極意義，但這也提醒我們 AI 技術的使用需要謹慎對待。我們應該加固對於 AI 技術的監管和規範，保證其使用符合道德標準。對於未來 AI 技術的發展需始終關注其倫理和社會責任，以保障個人和社會的利益。
延伸閱讀
- 《OpenAI、Adobe 與 Microsoft 攜手支援加州法案！未來 AI 內容將加注水印》
- OpenAI 支援加州新法案：要求 AI 內容加上水印！
- Snap 計畫統一 Spotlight 和故事功能的使用者體驗
- Krafton 擬擴充套件 PUBG 霸業，影象大翻新
- Picsart 推出一系列 AI 動力工具，讓你製作影片、背景、GIF 等
- Adobe Firefly 現在可以生成更逼真的影象
- DeepMind 搭上 Google Cloud 合作，為 AI 生成影象新增數位浮水印
- 印度的登月任務向地球傳回了月球南極的影片和影象
- Devar 利用生成式 AI 從文字提示中建立 3D 擴增實境影象
- 機器學習模型 I-JEPA：從影象中學習高層抽象概念
