Google 推出不可編輯的 AI 圖片浮水印技術
背景
Google 的 DeepMind 團隊多年來一直認為，建立優秀的生成式人工智慧工具也需要建立優秀的 AI 檢測工具。Google DeepMind 的 CEO Demis Hassabis 表示這其中涉及到很多明顯的高風險問題，例如"deepfake"。隨著 2024 年即將到來的美國和英國的選舉季節，Hassabis 表示建立能夠識別和檢測 AI 影象的系統變得越來越重要。
DeepMind 團隊在過去幾年中一直致力於開發一種工具，今天 Google 將其公開推出。這款工具名為 SynthID，旨在以對人眼來說難以察覺的方式對 AI 生成的影象進行浮水印，但卻可以容易地被專用的 AI 檢測工具識別出來。浮水印嵌入在影象的畫素中，但 Hassabis 表示它不會對影象本身產生明顯的變化。隨著 SynthID 的底層模型不斷改進，Hassabis 表示浮水印對人類的可感知性將會更低，但對 DeepMind 工具的檢測能力將會更高。
然而 Hassabis 和 Google DeepMind 希望在現階段暫時保持技術的保密性。Hassabis 表示技術的執行方式揭示得越多，駭客和不法分子就越容易規避它。當前 SynthID 首先在 Google 的生態系統內進行推出，只有使用 Google Cloud 平臺和 Imagen 影象生成器的客戶能夠嵌入和檢測浮水印。
技術詳解
SynthID 的問世，意味著 Google 對 AI 影象檢測的技術有了突破，並且有望成為一種在網際網路上廣泛使用的標準。Hassabis 甚至提出了將這個基礎技術應用到其他媒體，如影片和文字上的可能性。他表示一旦 Google 取證了這項技術，"問題就是在擴充套件規模、與其他需要這項技術的合作夥伴共享，然後擴大到消費者解決方案的範疇，並與公民社會就我們想要將其帶到哪裡進行辯論"。
然而需要注意的是，Hassabis 多次強調 SynthID 只是對於檢測"deepfake"等問題的解決方案之一，並不是無損解決這一問題的答案。
技術應用
Hassabis 表示當前 SynthID 主要在 Google 的商業生態系統中推出，以向 Google Cloud 平臺的客戶介紹新功能。Google Cloud 的 CEO Thomas Kurian 表示對於 Vertex AI 平臺的使用量正在迅速增長。這種增長和 SynthID 系統的改進，使 Kurian 和 Hassabis 認為，現在是推出技術的時機。
需要注意的是，客戶們對於防範"deepfake"等問題的擔憂只是冰山一角。比如，一些零售商正在使用 AI 工具為產品大目錄生成描述，他們需要確保上傳的產品照片不會與用於頭腦風暴和迭代用途的生成影象混淆。Kurian 提到，Google 希望在 SynthID 的推出過程中，理解使用者在不同場景中希望如何使用這項技術。他相信，作為核心的技術得到可靠的執行後，使用者可以根據自己的需求自由選擇合適的應用方式。此外 Hassabis 還表示 SynthID 最終有望成為 Chrome 擴充套件或內嵌於瀏覽器中，以實現對整個網際網路上的生成影象進行識別。
評論與建議
要注意的是，不同企業當前都有類似的目標。上個月，美國圖形影象學協會(C2PA)等多家公司已經開始合作使用加密後設資料來標記由 AI 生成的內容。Google 在 AI 工具方面需要追趕其他公司的步伐，這也意味著我們可能會在得到實際執行的 AI 檢測標準之前還會遇到很多問題。
然而 Hassabis 對於 AI 影象浮水印技術的前景充滿信心。無論如何，Google 的 DeepMind 團隊都準備好了檢測該技術存在的問題。Hassabis 表示這可能需要一種類似於防病毒軟體的即時更新解決方案。然而當前整個 AI 影象的生成、使用和檢測系統都由 Google 掌控，所以這個問題仍然遙遠。但 DeepMind 在開發過程中就考慮到了整個網際網路，Hassabis 表示他們已經為 SynthID 的技術擴充套件做好了漫長的道路旅程的準備。
結論
總的來說 Google 的 SynthID 影象浮水印技術具有巨大的潛力，可以成為對抗"deepfake"等 AI 影象濫用問題的一種解決方案。然而這項技術還處於起步階段，仍需進一步的測試和改進。隨著技術的發展，我們也需要針對 AI 影象檢測的標準和法律進行更廣泛的討論。最重要的是，我們需要找到平衡點，既要保護個人隱私和數位版權，又要防止不當使用 AI 技術對社會和民主價值產生負面影響。在未來的數位時代中，AI 影象檢測技術的發展將繼續引發許多討論和挑戰。
延伸閱讀
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- Google 推出新功能“口語練習”，利用人工智慧幫助使用者提高英文能力
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- Google 支援的 Glance 在美國試點推出 Android 鎖定屏平臺
- 這款相機以 AI 詩詞交換照片
- Webflow 併購 Intellimize，加入 AI 動力頁面個性化
- Google 解僱 28 名員工，因為他們爭議性的 Project Nimbus 合同與以色列引發的靜坐抗議
- 頭條新聞：頂級公司專頁功能即將上線，搭載 AI 及行銷工具助您擴充套件觀眾量
- 印度加快步伐抑制 PhonePe 和 Google 在手機支付領域的壟斷
