逼真的假片引發參與者過半錯誤記憶
深度假人影片與文字敘述同樣具誤導性
根據愛爾蘭科克大學的吉利安·墨菲（Gillian Murphy）和研究中心 Lero 的同事最近發表的一項研究，虛構的電影翻拍的深度假人影片不但能引發參與者對這些電影的錯誤記憶，而且僅使用描述這些虛構的電影的簡單文字也能導致類似的錯誤記憶率。
深度假人影片是利用人工智慧技術將一個人的聲音或臉替換成另一個人來進行修改的影片片段。製作深度假人影片的工具近年來變得更加廉價和易於取得，加固了人們對其可能的創造應用以及可能的風險（如傳播假新聞和操縱觀眾記憶）的討論。
為了探討潛在的風險和好處，墨菲和同事邀請了 436 人參與了一個線上調查，其中包含觀看深度假人影片的虛構電影再製版，並由不同的演員擔任主角，例如威爾·史密斯（Will Smith）飾演《駭客帝國（The Matrix）》中由基努·李維斯（Keanu Reeves）飾演的角色尼奧（Neo）以及布拉德·皮特（Brad Pitt）和安吉莉娜·裘莉（Angelina Jolie）在《閃靈（The Shining）》中的演出。研究中的其他虛構翻拍電影包括印第安納·瓊斯（Indiana Jones）和女超人（Captain Marvel）。作為比較，參與者還觀看了真實的翻拍片段，包括《查理和巧克力工廠（Charlie & The Chocolate Factory）》、《全面回憶（Total Recall）》、《凱莉（Carrie）》和《古墓奇兵（Tomb Raider）》。此外一些參與者未觀看深度假人影片，而是閱讀這些深度假人影片的文字描述。參與者在調查後才被告知這些虛構電影是虛假的。
與之前的研究結果一致，深度假人影片和文字描述都會引發對虛構電影的錯誤記憶，參與者平均有 49%相信每個虛構電影是真實存在的。許多參與者報告稱，他們記得這些虛構電影比原作更好。然而文字描述引發的錯誤記憶率同樣高，這表明深度假人技術可能在扭曲記憶方面並不比其他工具更具威力。大多數參與者報告表示對於深度假人技術被用於改編電影感到不舒服，他們擔心這可能不尊重藝術完整性，並破壞觀眾對電影的共享社交體驗。這些發現有助於未來深度假人技術在電影界的設計和監管。
研究人員補充道：“雖然深度假人技術出於多種原因引起了人們的關注，例如非自願的色情和欺凌行為，但這項研究表明深度假人技術在扭曲我們對過去的記憶方面並沒有獨特的威力。儘管深度假人影片在這項研究中使人們形成了相當高的錯誤記憶率，但我們使用簡單的文字描述也能夠達到相同的效果。實質上，這項研究表明，我們不需要技術上的進步來扭曲記憶，我們可以使用非技術手段來輕鬆而有效地實現。”
深度假人技術對記憶的影響和社會問題
深度假人技術的發展對於現代社會帶來了許多問題和挑戰。首先深度假人技術的使用可能導致對事件的錯誤解讀和記憶，這在法律和司法領域中尤為重要。一個精心製作的深度假人影片可能會導致某人對事件的誤解，並且在證人認證的過程中引起記憶的誤導。
其次深度假人技術還可能被用於傳播假新聞和虛假訊息。深度假人技術可以用來製作看起來逼真的謊言片段，可能導致人們相信這些片段是真實的，從而對他們的思想和觀點產生深遠的影響。這是對社會穩定性和民主價值觀的威脅，並且可能進一步加劇訊息環境的分裂和極化。
第三，深度假人技術還可能受到不道德使用的濫用。例如，深度假人技術可以用於制作出格和冒犯的內容，例如虛構的色情影片或對個人進行誹謗和欺凌的影片。這樣的濫用不僅侵犯了個人的隱私和尊重，還給受害者帶來了長期的心理創傷。
深度假人技術的未來發展與監管
這項研究對未來深度假人技術的發展和監管提供了一些啟示。首先關於深度假人技術的進一步研究和監測至關重要。理解深度假人技術對觀眾的影響和人們對其使用的態度可以幫助我們更好地理解和應對其風險和挑戰。
其次政府和立法者需要考慮制定相應的法律和監管措施，以應對深度假人技術的不當使用。這包括打擊非法生產和傳播深度假人影片的行為，保護個人的隱私和人格權以及鼓勵技術創新和藝術自由的平衡。
最後教育和媒體識讀能力的提高也是應對深度假人技術的重要方向。公眾需要具備辨識深度假人影片和虛假訊息的能力，並且能夠對其產生的內容進行批判性思考。這需要教育機構和媒體共同努力，提高社會大眾對數位素養和媒體素養的重視程度。
總而言之，深度假人技術的出現帶來了許多新的挑戰和風險。這項研究結果表明，深度假人技術並不比其他手段更具破壞性，從而提醒我們不應過度擔心技術本身，而應更加關注其使用的道德和社會影響，並制定相應的監管措施和教育培訓計劃。
原文網址：https://techxplore.com/news/2023-07-deepfake-videos-prompt-false-memories.html
