微軟推出 AI 圖片影片數位水印
人工智慧生成的影象和影片越來越難與真實事物區分，有時造成嚴重後果，解決這個問題已成為一個迫切的課題。微軟在其年度 Build（建造）會議上推出了新的媒體溯源功能，供 Bing Image Creator 和 Designer 網頁應用程式使用，這是一個類似 Canva 的工具，可以生成簡報、海報等設計，以分享到社交媒體和其他頻道，新的媒體溯源功能可以讓消費者取證一張圖片或影片是否由人工智慧生成。微軟指出，透過加密方法，這些功能，預計在未來幾個月內推出，將使用註釋在 AI 生成的內容上標記和簽名，同時提供有關影象或影片來源的後設資料訊息。這不是一個直接註明在圖片或影片上的文字浮水印，以使用者需求為出發點的媒體溯源需要採用“內容溯源和真實性聯盟”（C2PA）的可互操作規範的方法。只有這樣，網站才能在使用 Designer 或 ImageCreator 生成、修改或儲存圖片或影片時提醒消費者。然而對於這種類似的媒體溯源標準，許多影象生成工具仍未採用。C2PA 獲得 Adobe 的支援，Adobe 最近推出了自己的 AI 工具的範圍，包括與 Google 的 Bard 聊天機器人的整合。但 AI 生成工具中更著名的玩家之一，Stability AI，沒有表明願意接受像微軟提出的這種規範。雖然標準尚未推廣，但微軟採用媒體溯源跟蹤機制與趨勢保持一致，隨著產生式 AI 技術的應用，越來越多企業開始關注 AI 生成內容的可信度。五月，Google 表示將使用嵌入式後設資料來標誌由生成的 AI 模型建立的視覺媒體。此外 Shutterstock 和生成 AI 初創企業 MidJourney 採用了指南，將標記作為通知內容是由生成的 AI 工具建立的。
影響力如何？
微軟的 AI 圖片及影片影片數位水印方案是一種解決方案，但尚未普及。需要和其他 AI 生成影象的應用進行協作，形成一個通行的溯源標準規範，才能真正提高 AI 生成內容的辨識度，保證真實性。即使 Adobe 推出自己的生成 AI 工具並與 Google 的 Bard 聊天機器人進行整合，Stability AI 也沒有表明接受微軟提出的規範，因此跨行業互動和一致尚未實現，標準化仍然面臨著一定的障礙。但作為一個重要的跨行業開拓者，微軟的努力將促進 AI 生成影象和影片的可信度加固，也為 AI 生成行業標準化奠定了一個重要基礎。
編者的話
AI 生成視覺內容是一個具有極大潛力的行業，但也是一個相當有挑戰性的領域。雖然人工智慧技術可以在更快的時間內生成更多內容，但在現實生活中，我們面臨來自人為惡意攻擊者和電腦病毒的風險，AI 生成內容的進一步應用需要建立可信度。建立可信度的方法之一，就是使用微軟推出的 AI 圖片及影片影片數位水印方案，透過提高消費者和產品服務商對內容真實性的認識，進一步加固 AI 生成視覺內容的識別度和可靠性。從這一點上看，微軟的媒體溯源跟蹤對整個 AI 生成產業有著重要的推動作用。對於 AI 生成內容增加溯源追蹤機制將有助於消費者對其產生更多信任，也為產業發展注入積極的活力。
結論
AI 生成內容帶來了很多便利，但也存在很多風險，因此建立可信度和安全性非常重要。對於微軟的 AI 數位水印技術，需要更多的合作，使其成為一個普及規範，從而使其成為 AI 生成視覺內容行業的基礎。AI 技術的不斷進步，為 AI 生成視覺內容行業的未來帶來了更多的期望和挑戰，希望透過各方的共同努力，AI 行業的不斷創新和進步可以為我們提供更多的幫助。
延伸閱讀
- AI 大師 Marcus 認為，人類滅絕的威脅被誇大了
- Google 的 AI 搜尋速度太慢了
- 吉格經濟下的工人得到報酬，Fidelity 壓低 Reddit 的估值，AI 徵服《Minecraft》
- AI 何時會「過度」AI？
- AI 使用 GPT-4 成為 Minecraft 專家
- 【已成為 Minecraft 專家的 AI：使用 GPT-4 的可能性】
- YouTube 停止刪除關於總統大選虛假造假指控的影片
- YC 支援的 Dumme 籌集了 340 萬美元，用於開發 AI 影片編輯器，將長 YouTube 影片轉換為短影片 (Shorts)
- AI 毀滅論被誇大了以及其他相關新聞
- AI 助手需要學會如何編輯
