AI 騙局：冒用聲音的電話詐騙成長的問題
作者：奧利弗·巴克利，The Conversation
許多人最近接到的電話詐騙，一個聲稱被誘騙去竊取資料的對手會冒充你熟悉的聲音。這些詐騙通常使用生成式 AI 技術，這種技術可以根據使用者的提示生成文字、影象或任何其他媒體，例如音影片。深度製作在過去幾年越來越有名，一些高知名度的事件，比如女演員艾瑪·沃森的形象被用在一系列在臉書和 Instagram 上的含蓄廣告中。還有一個被廣泛分享並被證實是假的 2022 年的影片，當時烏克蘭總統弗拉基米爾·澤連斯基似乎呼籲烏克蘭人“放下武器”。現在製作逼真的深度學習技術，也就是一個人聲音的逼真副本變得愈加普遍。
製作逼真的聲音副本需要大量的訓練資料
要製作出逼真的聲音副本，需要大量目標人聲音的資料來訓練演算法。這意味著要有很多目標人的音訊錄音。你餵入演算法的目標人的聲音示例越多，最終製作出來的副本就會越好，越具說服力。我們中的許多人已經在網際網路上分享日常生活的細節。這意味著用於製作逼真的聲音副本所需的音訊資料可能已經在社交媒體上公開。
一旦副本出現，可能會帶來的最壞後果
這種深度學習技術能夠使任何擁有資料的人操縱"你"的聲音說出他們想要的任何話。實際上這可以簡單地寫出一些文字，然後讓電腦用你的聲音把它大聲讀出來。深度學習技術的這種能力可能會增加音訊虛假訊息和誤導的普及。可以利用該技術試圖影響國際或國家的公眾輿論，就像看到的對澤連斯基的"影片"。但是這些技術的普及性和可用性也在本地層面上帶來了重大挑戰，特別是在"AI 詐騙電話"的增長趨勢方面。
AI 騙局對公眾的威脅
很多人可能已經遇到過詐騙或釣魚電話，告訴我們，例如，我們的電腦受到了侵害，我們必須立即登入，詐騙者可能因此獲得我們的資料。在這種情況下，很容易就能察覺出這是一場騙局，特別是當打電話的人提出了一些合法機構的人不會提出的要求時。然而現在設想一下，如果通話另一端的聲音不僅僅是一個陌生人，而且聽起來確實像你的朋友或摯愛。
這就給接電話的不幸受害者帶來了一個全新的複雜程度和恐慌感。 CNN 報導的最近一個故事突出了一個案例，當時一個母親接到了一個陌生號碼的電話，接聽電話後，聽到的是她女兒的聲音。據稱女兒被綁架了，打電話給她母親提出贖金要求。實際上這個女孩是平安無事的。詐騙者制作了她聲音的深度學習影片。這並不是一個個別的事件，在這個詐騙中還有其他變形，包括聲稱出車禍的情況，受害者致電家人要求錢幫助他們撤離墜機現場。
利用新科技的舊把戲
這種騙局本身並不新，"虛擬綁架詐騙"這個詞已經流傳了幾年。它可以以多種形式存在，但常用的方法是欺騙受害者支付贖金，以釋放他們所認為正在受到威脅的親人。詐騙者試圖確保受害者絕對服從，以便在騙局被揭穿之前快速索取贖金。然而現在功能強大且可用的 AI 技術使情況變得更加個人化，提高了策士自信的壓力，以下是一份技能可以用來識別深度學習的影片。
採取的安全防範措施
有一些編譯軟體可以用於識別深度生成的影片，並能建立音訊的視覺化表示稱為光譜圖。當你聆聽電話時，可能很難將它與真實的聲音區分開來，但是當你將光譜圖相互比較時，聲音可以區分開來。至少有一個團體提供可以下載的檢測軟體，盡管使用這些解決方案可能仍然需要一些技術知識。大多數人將無法生成光譜圖，那麼當你不能確保你聽到的是真的聲音時，你該怎麼辦呢？就像其他形式的媒體一樣，你可能會遇到不確保性。要持懷疑態度。如果你突然接到一個陌生人的電話，他們要求你給他們錢，或者提出了一些看似不符合他們性格的要求，就給他們打電話或發簡訊，以確認你確實與他們交談。隨著人工智慧能力的不斷拓展，現實和虛構之間的界線將日益模糊。又不太可能再將這種技術封存起來。這意味著人們將需要更加謹慎。
本文由 The Conversation 原文翻譯並轉載。本文僅供訊息參考，並不構成任何投資或安全建議。如有侵權請聯絡我們刪除。
