深度贗品在戰爭中的應用:俄羅斯入侵烏克蘭引發的新擔憂
引言
2022 年 2 月 18 日晚上,一家烏克蘭新聞網站的訪客看到一段熟悉的影片,其中烏克蘭總統發表演說。然而總統的臉部與頭部似乎有些不同步。在這段影片中,沃洛迪米爾·澤連斯基宣布戰爭結束的訊息。然而絕大多數烏克蘭人都知道這是假的。這段影片是一段深度贗品影片。
深度贗品技術是一項近期的技術發展,它基本上允許人們製作從未發生過的事件的影片。它似乎特別適合在社交媒體平臺和其他網路上傳播虛假訊息、錯誤訊息和"假新聞"。深度贗品也非常適合用於網路戰爭。這些影片使用 AI 技術進行操縱,通常涉及將真實內容和假內容混合。這使它們看起來比完全使用 AI 生成的影片更加逼真和有說服力。例如,深度贗品技術可以將真實影片中的兩個人的臉部進行互換,或者改變脣部動作,使一個人似乎在說與原來的內容不同的話。
失去信任
我們的研究發現,深度贗品的存在使人們產生了疑慮或困惑的情況。值得注意的是,我們的資料表明,有人指責真實的影片是假的。我們還發現有人對衝突中的所有影片失去了信心,一些人支援世界領導人已死,被深度贗品代替的理論。在俄烏戰爭期間,線上上使用深度贗品的許多例子中,澤連斯基宣稱戰爭結束可能是最可怕的一個例子。這是因為它突出了深度贗品如何與被入侵的媒體服務一起使用,傳播事實不符的訊息。這個事件的結果是從一個可信的來源分發了虛假訊息。在戰爭期間還出現了虛假影片,聲稱俄羅斯總統弗拉基米爾·普京投降。
我們的研究是首個對戰爭中深度贗品影響的學術研究。為了揭示深度贗品在俄羅斯入侵烏克蘭早期的應用方式,我們首先建立了一個時間線,記錄了入侵初期流傳的各種深度贗品。雖然我們無法捕捉到每一個出現的深度贗品,但我們試圖找到最顯著的例子和對話中影響最大的例子。然後,我們分析了這些影片在 Twitter 上的討論情況。
幽默、困惑和懷疑
在衝突期間製作的許多深度贗品影片具有幽默的特點,其中一些將普京插入到《陷落》和查理·卓別林 1940 年的電影《大獨裁者》等電影中。烏克蘭政府還製作了一些深度贗品(和 CGI)影片,用於教育人民理解衝突。有趣的是,儘管這些影片是用於教育目的,它們可能會產生反效果,引起觀眾對真實媒體的不信任和懷疑。在網上對深度贗品的討論中,許多人表現出健康的懷疑,例如對事實核查和檢測深度贗品的建議。然而我們也發現許多人錯誤地宣稱某些影片是深度贗品。這些影片可以分為兩類。首先許多影片最終被證實是低技術的偽造,比如具有虛假字幕的影片,或者將其他戰爭的事件呈現為烏克蘭事件的證據。其次我們也發現很多真實的烏克蘭事件的影片被評論人士錯誤地指責為深度贗品。
從中吸取教訓
普通社交媒體使用者可以從這項研究中得到什麼教訓呢?網路上深度贗品影片的普及程度在過去五年中增加,當前的技術檢測深度贗品影片的準確性還不足以作為解決方案。重要的是,要在個人中鼓勵良好的媒體素養,平衡健康和不健康的懷疑。需要對高度具有爭議性的媒體持懷疑態度,並等待多個可信賴的來源對該新聞進行取證。另一方面,人們應該小心不要錯誤地指責影片是深度贗品。重要的是不要對我們遇到的每一個媒體片段都失去信任,特別是在深度贗品在網路上尚未普及的情況下。有一點可以肯定,隨著全球衝突在這個十年和以後的發展,深度贗品的虛假訊息問題將成為每個人關注的問題。
資料來源:Deepfakes in warfare: New concerns emerge from their use around the Russian invasion of Ukraine(The Conversation)
延伸閱讀
- Google 為 Android 打造了一些最早期的社交應用程式,包括 Twitter 和其他應用
- 美國與英國警方識破、控告俄羅斯 LockBit 勒索軟體幫派領袖
- Change Healthcare 駭客使用被盜憑證入侵 - 聯合健康集團 CEO 表示沒有多重因素認證
- 拜登簽署法案,如果位元組跳動未能出售 TikTok 將禁用該應用
- 醫療資訊科技公司遭勒索軟體入侵,患者敏感資料外洩
- Roku 宣布第二次安全事件後,57.6 萬使用者帳戶遭入侵
- 烏克蘭網路警察如何對抗俄羅斯駭客
- 美國政府監察機構入侵聯邦機構進行雲安全壓力測試
- 聯邦政府入侵 LockBit,LockBit 反制。下一步該怎麼辦?
- 開源人工智慧閘道器 Køng 讓建立多語言模型應用更容易