使用人工智慧保護免受影象操縱的威脅
引言
隨著人工智慧推動的技術愈來愈能夠以高精準度製造和操作影象，我們進入了一個全新的時代，這模糊了現實和虛擬之間的界線，而濫用這些技術的陰影也不斷浮現。近來，一些進階的生成模型，如 DALL-E 和 Midjourney，因其令人印象深刻的精準度和使用者友好的介面而受到讚揚，使得製作超逼真影象變得相對容易。由於門檻的降低，即使是沒有經驗的使用者也能夠從簡單的文字描述中生成和操作高質量的影象，範圍從無害的修改到惡意的變更。雖然數位浮水印等技術提供了有希望的解決方案，但對於濫用行為，我們需要採取一種預防性（而非僅僅事後）的措施。PhotoGuard：對抗影象操縱的新方法
麻省理工學院（MIT）電腦科學與人工智慧實驗室（CSAIL）的研究人員開發了一種名為"PhotoGuard"的技術，它使用微小的畫素值變動（對人眼看不見，但計算機模型可以檢測到）來有效阻斷模型操縱影象的能力。PhotoGuard 使用兩種不同的“攻擊”方法來生成這些微小變化。較簡單的“編碼器攻擊”是針對 AI 模型中的影象潛在表徵，使模型認為影象是一個隨機實體。較為複雜的“擴散攻擊”則是定義一個目標影象，並最佳化變動以使生成的影象與目標盡可能相似。透過在原始影象的輸入空間中建立微小變動，並在推斷階段應用於影象中，PhotoGuard 提供了強大的防禦措施，防止未經授權的操作。保護實踐中的兩種攻擊
編碼器攻擊透過在影象的數學表示中引入小量調整，使 AI 模型認為影象是一個隨機實體。這樣，任何企圖使用模型修改影象的嘗試幾乎是不可能的。所做的變化非常微小，人眼看不到，從而保持了影象的視覺完整性，同時確保了影象的保護。擴散攻擊則是更複雜的方法，它從頭到尾地針對整個擴散模型進行操作。這包括確保一個期望的目標影象，然後啟動一個最佳化過程，以使生成的影象與目標盡可能相似。這種攻擊需要更多的計算資源，但透過將擴散過程的步驟減少到更少，可以解決這個問題，從而使這種技術更實用。圖片保護的現實應用
人工智慧模型對影象的視覺理解與人類不同。它將影象視為一組描述每個畫素顏色和位置的數學資料點的集合，稱為影象的潛在表徵。而攻擊方法則是在這個數學表示中引入微小的變動，使 AI 模型認為影象是一個隨機實體，從而保護影象免受未經授權的修改。這些微小變動對人眼來說是看不到的，從而確保了影象的視覺完整性。擴散攻擊更進一步地目標是使生成的影象盡可能地與預選目標相似，同時保持原始影象對人眼的不可見變化。這種方法可以應用於各種實際場景，例如保護具有多個人臉的影象，以防止對某些人臉進行修改。全方位的防禦策略
在對抗影象操縱的鬥爭中，創造影象編輯模型的開發者是關鍵的盟友。為了保證 PhotoGuard 的有效性，需要各方的整合響應。政策制定者應考慮實施規定，要求公司保護使用者資料免受操縱。開發這些人工智慧模型的公司可以設計 API，自動對使用者的影象新增微小變動，以提供對未經授權操作的額外保護層。儘管 PhotoGuard 具有潛在的價值，但它並不能解決所有問題。一旦影象上線，具有惡意意圖的個人可能嘗試逆向工程保護措施，進行干擾，裁剪或旋轉影象。然而之前在對抗對手示例的研究中有許多工作可以在此應用，以實施能夠抵制常見影象操縱的堅固變動。保護影象免受未經授權修改的共同努力必須包括模型開發者、社交媒體平臺和政策制定者的合作。結論
在這個充滿挑戰和機遇的人工智慧生成模型的新時代，我們需要同時追求潛力和保護。PhotoGuard 提供了一種值得關注的方法，能夠以微小變動保護影象免受未經授權的操縱。然而我們需要更多的努力來使這種保護措施變得更為實用。開發這些模型的公司需要投資在工程上對抗這些人工智慧工具可能帶來的可能威脅。在這個新的生成模型時代，讓我們努力實現潛力和保護的平衡。參考文獻
Salman, Hadi, et al. "Raising the Cost of Malicious AI-Powered Image Editing." arXiv (2023).資料來源
此文章由麻省理工學院新聞部（MIT News）提供，網址為[https://techxplore.com/news/2023-07-ai-image.html](https://techxplore.com/news/2023-07-ai-image.html)AI 保護-人工智慧,AI 影象操縱,影響,保護
