DeepMind 與 Google Cloud 合作，為 AI 生成的影象打上數位浮水印
簡介
近日 Google AI 研究部門 DeepMind 與 Google Cloud 合作，共同開發了一款用於為 AI 生成的影象打上數位浮水印並識別的工具。該工具名為 SynthID，當前正在 Vertex AI 平臺上的選定使用者中進行測試。SynthID 能夠將數位浮水印直接嵌入影象的畫素中，對人眼來說幾乎是看不見的，但可以透過演算法進行檢測。
背景
DeepMind 表示 SynthID 的開發是為了應對 AI 生成媒體所帶來的新風險，例如意圖或無意地傳播虛假訊息。SynthID 的目的是幫助人們識別 AI 生成的內容，防止誤傳不實訊息的傳播。
與此同時其他公司也開始關注並開發 AI 生成內容的數位浮水印技術。例如，法國新創公司 Imatag 提供了一個聲稱不受調整、裁剪、編輯或壓縮影象影響的數位浮水印工具。另一家公司 Steg.AI 則利用 AI 模型新增可抵抗調整大小和其他編輯操作的水印。而中國的網路安全管理機構最近要求 AI 生成內容提供商在不影響使用者使用的情況下標註生成的內容，進一步加大了科技公司提供這類功能的壓力。
然而當前尚無一種共同的數位浮水印標準，既包括建立數位浮水印的方法，也包括檢測數位浮水印的方法。
DeepMind 的解決方案：SynthID
DeepMind 聲稱，SynthID 不僅可以檢測樣式、顏色和高壓縮等影象修改，還可以在這些修改後仍然識別數位浮水印。SynthID 利用兩個 AI 模型進行數位浮水印嵌入和識別，並使用一組“多樣化”的影象訓練這兩個模型。
然而 SynthID 並不能以 100%的確保性識別帶有數位浮水印的影象。但該工具可以區分影象可能帶有數位浮水印的情況和影象高度可能帶有數位浮水印的情況。
DeepMind 在一篇部落格中寫道：“SynthID 無法應對極端影象修改，但它提供了一種有前景的技術方法，可以讓人們和組織有責任地使用 AI 生成的內容。這款工具還可以隨著其他 AI 模型和模式（如音訊、影片和文字）的發展而不斷進化。”
展望和建議
AI 生成的內容不斷增長，讓人們如何判斷生成的內容是否可信成為一個重要問題。因此數位浮水印技術的發展非常必要。
對科技公司而言，提供能夠標識 AI 生成內容的方法非常重要，因為這樣可以幫助使用者識別真實的訊息和內容。然而當前尚未出現共同的標準和方法，這對於發展水印技術來說是一個巨大的挑戰。
建議科技公司可以加固合作，共同制定數位浮水印技術的標準和方法，以確保相相互容和可擴充套件。此外應該鼓勵科技公司開放 SynthID 等技術，讓第三方也可以使用。這樣可以推動更廣泛的應用，並讓更多開源 AI 影象生成工具能夠使用這類數位浮水印技術，增強這些工具的可信度。
最後對使用者而言，識別 AI 生成內容的技能是非常重要的。使用者應保持警惕，尤其是在網上接觸到一些可能具有虛假或修改的影象或內容時。理解數位浮水印技術以及如何識別 AI 生成內容可以幫助使用者更好地判斷訊息的真實性。
延伸閱讀
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- Google Cloud 迎來晴天
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- 這款相機以 AI 詩詞交換照片
