MIT 研究人員開發 AI 工具"PhotoGuard"防禦影像篡改
背景
近年來隨著 DALL-E 2 和 Stable Diffusion 等大型擴散模型的出現，它們因能夠生成高質量的照片逼真影象以及執行各種影像合成和編輯任務而受到廣泛關注。然而人們開始對易於使用的生成式 AI 模型的潛在不當使用提出擔憂，這些模型可能導致不適當或有害的數位內容的建立。例如，惡意操作者可以利用公開共享的個人照片，使用現成的擴散模型對其進行有害修改。為了應對越來越多的關於未經授權的影象篡改的挑戰，麻省理工學院電腦科學與人工智慧實驗室（CSAIL）的研究人員推出了一款名為"PhotoGuard"的 AI 工具，旨在對抗像 DALL-E 和 Midjourney 這樣的高級生成式 AI 模型。
研究目標
在研究論文《提高惡意 AI 驅動的影像編輯的成本》中，CSAIL 的研究人員聲稱"PhotoGuard"能夠檢測人眼無法察覺但計算模型能夠檢測到的畫素值的微小“異常”（即干擾或不規則）。該工具旨在在上傳到網際網路之前對影象進行"加固"，確保抵抗 AI 驅動的篡改試圖。
攻擊方法
根據 MIT CSAIL 的研究人員，"PhotoGuard"採用了兩種不同的"攻擊"方法來創造干擾：編碼器攻擊和擴散攻擊。"編碼器"攻擊聚焦於 AI 模型內的影象的潛在表示使模型認為影象是隨機的，從而使影象篡改幾乎不可能。同樣，"擴散"攻擊是一種更複雜的方法，它涉及確保一個目標影象並最佳化干擾以使生成的影象與目標影象相似。
抵禦攻擊的關鍵機制：對抗干擾
"PhotoGuard"使用的關鍵機制是'對抗性干擾'。Salman 解釋說：“這些干擾是對影象的畫素進行微小的不可察覺的修改，已被證實在操縱機器學習模型的行為方面極為有效。” "PhotoGuard"利用這些干擾來操縱處理受保護影象的 AI 模型，使其產生不現實或不可理解的編輯。
保護個人隱私和防篡改的重要性
麻省理工學院的研究生 Hadi Salman 指出，儘管像 DALL-E 和 Midjourney 這樣的 AI 驅動生成模型在從簡單的文字描述中建立超逼真影象方面曾經受到贊譽，但潛在的濫用風險也日益明顯。這些模型使使用者能夠生成高度細緻和逼真的影象，為善意和惡意應用開啟了可能性。Salman 警告說，詐騙性影象篡改不僅可能影響市場趨勢和公眾情緒，還可能對個人影象帶來風險。被不當修改的照片可被用於敲詐，使人們承受相當大的財務影響。盡管文字水印已經顯示出很好的效果，Salman 強調建立預防措施以預防濫用的必要性依然十分重要。
保持對人眼不可察覺的變化
Salman 解釋道，"PhotoGuard"透過修改影象中的選定畫素來使 AI 能夠理解影象。AI 模型將影象視為表示每個畫素顏色和位置的複雜數學資料點。透過對這種數學表示引入不可察覺的變化，"PhotoGuard"確保影象在人類觀察者看來保持視覺上不變，同時防止 AI 模型對其進行未經授權的篡改。進一步解釋，"編碼器"攻擊方法透過對目標影象的算法模型的潛在表示引入這些異常，即對影象中每個畫素的位置和顏色的複雜數學描述。結果，AI 基本上無法理解內容。另一方面，更高級和計算密集的"擴散"攻擊方法在 AI 的眼中偽裝影象的不同之處。它確保了一個目標影象並最佳化其干擾以使之與目標相似。因此 AI 嘗試對這些"被免疫"的影象進行的任何編輯都會錯誤地應用於虛假的"目標"影象，從而生成看起來不真實的影象。
研究局限與未來展望
雖然"PhotoGuard"具有潛在應用價值，但研究人員提醒它並非絕對解決方案。惡意個體可能嘗試透過新增噪音、裁剪或旋轉影象對防攻擊措施進行逆向工程。作為研究概念的展示，當前該 AI 模型還沒有準備好部署，研究團隊建議在當前階段不要使用它來保護照片。Salman 說：“要使 PhotoGuard 成為一個完全有效和強大的工具，需要開發針對當前和未來會出現的特定生成 AI 模型的版本。當然這需要這些模型的開發者的合作，而且獲得如此廣泛的合作可能需要一些政策行動。”
該研究當前仍處於證實概念階段，但它為 AI 防禦技術的發展提供了一個有希望的方向。越來越多的 AI 模型的普及對人們的隱私和數位內容的安全造成了一定的挑戰，在這方面的研究和技術創新將是必不可少的。
