研究揭示 AI 生成內容浮水印的弱點
綜述
隨著 LensaAI、ChatGPT 等高效能生成機器學習模型的出現，網際網路上充斥著由人工智慧（AI）建立的文字、影象、標誌和影片等內容。這些內容被廣泛稱為 AI 生成內容（AIGC），往往很容易被誤認為是由人類或其他計算模型建立的。隨著生成 AI 模型的不斷使用，與智慧財產權和版權相關的重要問題逐步浮出水面。事實上許多公司和開發者對廣泛商業使用由其模型生成的內容感到不滿，因此引入了浮水印以規範 AIGC 的傳播。浮水印是指可放在影象、影片或標誌上的模式或特徵標記，旨在澄清建立者及其版權所有人。雖然浮水印已被廣泛使用數十年，但其對於監管 AIGC 的有效性尚未確保。研究概述
最近，南洋理工大學、重慶大學和浙江大學的研究人員進行了一項研究，探究了浮水印作為防止 AIGC 非法和未歸功傳播的手段的有效性。他們在預印版伺服器 arXiv 上發表的論文概述了兩種策略，這兩種策略可以輕易地使攻擊者移除和偽造 AIGC 上的浮水印。 該研究的共同作者之一 Guanlin Li 告訴 Tech Xplore，"最近，AIGC 一直是學界的熱門話題。許多公司對 AIGC 新增浮水印以保護智慧財產權或約束非法使用。有一天晚上，我們討論是否可以探索一種新的高級水印技術用於生成模型。我只是說，為什麼不攻擊現有的浮水印方案？如果我們能夠刪除浮水印，一些非法的 AIGC 將不會被視為 AI 生成的。或者，如果我們將浮水印偽造到某些現實世界的內容中，它們也可以被視為 AI 生成的。這可能會在網際網路上引起很多混亂。"攻擊策略
在研究中，Li 和他的同事展示了一種從 AI 模型生成的影象中刪除或偽造浮水印的計算策略。使用這種策略的人首先需要從目標 AI 公司、應用程式或內容生成服務中收集資料，然後使用公開可用的降噪模型對這些資料進行“淨化”。最後使用者需要使用這些淨化過的資料來訓練一個生成對抗網路（GAN）。研究人員發現，訓練後的基於 GAN 的模型可以成功地刪除或偽造浮水印。 Li 解釋說，"我們研究的思路非常簡單。如果我們要識別帶有浮水印的內容，帶有浮水印的內容的分佈應該與原始分佈不同。基於這一點，如果我們可以學到這兩個分佈之間的投影，我們就能夠刪除或偽造浮水印。"弱點揭示
在初步測試中，Li 和他的同事發現他們的策略對於刪除和偽造由基於 AI 的內容生成服務生成的各種影象非常有效。他們的研究因此突顯了使用浮水印來執行 AIGC 版權的弱點和不實際性。Li 說，"如果敵對方對浮水印方案有充分的訊息，則先進的浮水印方案很容易被刪除或偽造，這一點並不令人驚訝。但令人驚訝的是，即使我們只擁有帶有浮水印的內容，我們仍然能夠這樣做。"他還補充說，"另一方面，我們的方法是基於資料的分佈，這表明現有的浮水印方案是不安全的。說實話，我不希望我們的研究成為現實世界的威脅，因為這將使我們無法管理生成模型。個人而言，我希望它能激發其他人設計一些更高級的浮水印方案，以對抗我們的攻擊。"展望
這個研究團隊的最新工作可能很快會激發專門從事生成 AI 的公司和開發者開發更高級的浮水印方法或更適合防止 AIGC 非法傳播的替代方法。受到他們自己的研究發現的啟發，Li 和他的同事現在也在努力開發一些這些方法。Li 補充說，"我們現在主要研究生成模型的一些新的浮水印方案，不僅適用於影象生成技術，還適用於其他模型。" 這項研究提醒我們，在 AI 生成內容的崛起中，保護智慧財產權和版權成為一個緊迫的問題。浮水印作為現有的解決方案，被揭示出存在嚴重的弱點，無法達到預期的目的。為了保障 AIGC 的版權，需要思考和研究更先進的防篡改技術，以確保作者和創作者的權益。參考資料
- Fadelli, I. (2023, October 25). Study unveils vulnerabilities of watermarking AI generated content. Retrieved from https://techxplore.com/news/2023-10-unveils-vulnerabilities-watermarking-ai-generated.html - Li, G., et al. (2023). Towards the Vulnerability of Watermarking Artificial Intelligence Generated Content. arXiv. DOI: 10.48550/arxiv.2310.07726.Watermark-AI 生成內容,浮水印,弱點,解析
延伸閱讀
- NOQX 的 200K 預種籽融資 PPT 解析
- Pitch Deck 解析：Geodesic.Life 的 50 萬美元種子輪融資提案
- Xpanceo 的 4000 萬種子融資計劃書解析
- Pitch Deck 解析: Queerie 的 30 萬美元前種子輪籌資檔案
- Protecto 科技公司 400 萬種子融資方案投資者解析
- SuperScale 540 萬美元 A 輪融資 Pitch Deck 解析
- Reddit IPO: 徹底解析!
- Twitter/X 競爭對手 Mastodon 遭受垃圾郵件攻擊，凸顯「聯邦宇宙」的弱點
- Equals 新一輪融資 16 百萬美元投資的 Pitck Deck 解析
- Qortex 的 1 千萬種子輪播簡報解析
