數位浮水印保護被輕易繞過：研究指出的安全問題
文／ - 2023 年 10 月 8 日報導
引言
近年來人工智慧（AI）生成深度偽造影像的能力成為社會普遍關注的焦點。有些 AI 生成的深度偽造影像讓人哈哈大笑，例如阿諾·施瓦辛格的臉部被合成在克林特·伊斯特伍德飾演的《西部的教父》中，指著逃跑的嫌犯；還有邁克·泰森變成奧普拉；唐納·川普變成《勇士律師》中的鮑勃·奧登科克；尼古拉斯·凱奇飾演《超人》中的露易絲·雷恩。然而最近的發展預示著一個更令人不安的趨勢，即數位偽造影像變得惡意。就在上週，演員湯姆·漢克斯在社交媒體上譴責使用他基於 AI 生成的肖像來宣傳一份牙科保健計劃的廣告。
在這種情況下，幽默的深度偽造影像已演變成對隱私和民主的潛在威脅。近日普通市民的臉孔在社交媒體中無端出現在照片中，而且毫不知情。最令人不安的是，報復性色情照片的事件有所增加，即被拋棄的情侶公開發布合成的處境尷尬或淫穢照片。此外當美國在分裂不堪的情況下迎接 2024 年具有高度爭議性的總統選舉，偽造影像和影片的出現必將讓選舉變得更加醜陋。同時假圖片的泛濫可能對我們現有的法律制度產生重大影響。正如最近非營利媒體機構國家公共廣播電臺（NPR）報導的那樣，律師利用困惑於真實與虛假之間的無辜大眾，對法庭上的證據提出越來越多的質疑。
技術研究揭示浮水印保護的脆弱點
為了抑制數位虛假的濫用，一些主要數位媒體公司，如 OpenAI、Alphabet、亞馬遜和 DeepMind，承諾開發工具來抵制虛假訊息。其中一個關鍵方法是對 AI 生成的內容進行數位浮水印標記。然而根據九月二十九日發表在預印本伺服器 arXiv 上的一篇論文，關於抑制此類數位濫用能力引起人們擔憂的訊息。馬裏蘭大學的教授們進行的測試顯示，保護數位浮水印的方法很容易被繞過。
報告的作者之一 Soheil Feizi 表示："當前我們沒有可靠的數位浮水印技術"，並說明他們的研究小組"已經突破了所有這些方法"。他警告說："AI 的誤用引入了有關錯誤訊息、欺詐甚至國家安全問題（如選舉操縱）的潛在危害。深度偽造影像可能對個人和整個社會產生個人傷害，從性格誹謗到情感壓力。因此確保 AI 生成的內容的真偽成為一個重要的挑戰。"
研究小組使用了一種稱為擴散凈化的過程，該過程對浮水印應用了高斯雜訊，然後去除它。這樣就留下了一個扭曲的浮水印，可以繞過檢測算法。影象的其餘部分只有輕微的變化。他們還成功地證實，懂得黑盒浮水印演算法的惡意參與者可以偽造帶有標記的照片，騙過檢測器，使其認為這些照片是合法的。雖然更好的算法肯定會出現，但正如病毒攻擊一直以來的情況一樣，壞人總是會不斷努力突破好人提出的各種防守措施，貓捉老鼠的遊戲將繼續下去。但 Feizi 表示了一些樂觀情緒，他說："根據我們的結果，設計一個強大的數位浮水印是一項具有挑戰性，但不是不可能的任務。"
審慎審視影像的重要性
當前人們在檢視包含對他們來說可能重要的內容的影像時必須要萬分警惕與審慎。警覺性、多重確認出處以及常識都是必要的。值得一提的是，數位偽造的問題已經超過了一個特定國家或地區的範疇，成為全球範圍內的議題。這是一種關乎人類信任與現實之間微妙關係的問題，也觸及到社會價值觀、法律制度和個人隱私等方面。在面對這一問題時，媒體機構、科技公司和政府都應該承擔起責任，共同努力解決這一問題。
結論與建議
對於個人使用者而言，審慎判斷和自我保護是保護自己的最佳方式。不要隨便點選任何可疑的連結或下載未經識別的檔案。對於在社交媒體平臺上出現的可疑照片，應該秉持懷疑的態度，並儘量確認照片的真實性和來源。
此外教育和知識交流也扮演著重要角色，以提高公眾關於數位虛假和深度偽造的認識。學校和大學可以加固數位素養的教育，教導年輕人如何運用媒體以及如何識別和處理數位虛假的風險。此外媒體機構可以加固報導和討論關於數位虛假和深度偽造的相關議題，以提醒公眾保持警覺。
最後對於科技公司和政府來說開發更強大的數位浮水印技術來抵制虛假訊息的傳播至關重要。透過技術創新和法律監管的結合，可以建立更可靠的數位浮水印保護機制，以應對數位虛假泛濫的問題。
