人工智慧語音欺詐肆虐 美國政府發出警告
最近，美國官員警告詐騙分子正在使用越來越具說服力的人工智慧語音克隆工具欺騙人們。一位美國母親接到了電話，聽到女兒在哭泣，然後一個男子接過電話，要求贖金。電話中的女孩是人工智慧克隆品，綁架是虛假的。
人工智慧具備模糊現實和虛構的能力
專家稱，人工智慧的最大危險在於它能夠摧毀現實和虛構之間的界限，為網路犯罪分子提供了一種廉價而有效的技術來傳播虛假訊息。網上廣泛提供的人工智慧語音克隆工具，現在幾乎無法與人類語音區別，這使得詐騙分子能夠更有效地從受害者那裡取得訊息和資金。
"以小音訊樣本，人工智慧語音克隆就能夠製作錄音和語音簡訊。它甚至可以用作電話中的現場語音轉換器。詐騙分子可以使用不同的口音，性別甚至是模仿所愛之人的語言語言習慣。[技術]為製作具有說服力的假影片提供了可能性。"威信公司的執行長 Wasim Khaled 告訴法新社。
人工智慧語音克隆使用範圍寬泛
一段簡單的音訊樣本 - 有時只有幾秒鐘 - 可以在網上輕易地被盜取，建立具有人工智慧語音克隆的廣泛應用範圍也在不斷擴大。在一項調查中，對來自美國和其他八個國家的 7,000 人進行了全球性調查，其中四分之一的人表示曾經經歷過人工智慧語音克隆騙局或認識過受害者。
調查顯示，70％的受訪者認為他們無法 "分辨克隆語音和真實語音的區別。"
新技術或增強安全機制
網路監管機構警告：最受歡迎的詐騙手法之一是“祖父母騙局”，其中詐騙者假冒孫子在情況緊急需要錢，以詐騙思路來騙取金錢。網路攻擊的高危險性和使用人工智慧克隆的普及，顯示出許多普通人受到攻擊和詐騙的可能性。現在人們需要新的安全技術來保證線上交流的隱私和安全。
美國某創業公司 ElevenLabs 承認其語音克隆工具可能被用於"惡意目的"，並警告說，我們迅速接近不能信任在網際網路上看到的東西的時間了。"，風險正在加劇。
詐騙保護與未來技術
對於這種使用人工智慧語音克隆欺詐的風險可能性，人們應該加固相應的防範技術，例如聲紋識別機制等，來保護個人隱私和金融欺詐事件的風險。人們還可以藉助專業檢測技術，以檢測人工智慧生成的假影片。未來，我們需要新技術，以檢測網路中的虛構和真實之間的邊緣。
因此人們應該高度警惕可能的線上攻擊和詐騙行為，並在語音交流中保持警覺，以減少被騙的風險。
延伸閱讀
- Google 在 I/O 主題演講中提到「AI」超過 120 次
- Ofcom 將推動在新的網路兒童安全守則中，加固年齡取證、篩選和其他 40 項檢查
- Brandywine Realty Trust 表示資料已在勒索軟體攻擊中被竊取
- LockBit 的幕後主謀被起訴：我們從中學到了什麼？
- 替代雲技術蓬勃發展，企業尋求更便宜的 GPU 存取
- 美國聯合健康集團 CEO 表示：“也許三分之一的美國公民受到最近的駭客攻擊影響”
- Mozilla 發現大多數約會應用並不善於保護使用者資料
- 人工智慧領域的新創公司：興致漸失？
- 英國正在評估 AI 是否能幫助保護年輕的網路使用者
- 帕羅奧圖網路防火牆漏洞遭攻擊，數千家公司面臨新的災害
