AI 的深偽和政治宣傳：透視肺炎下的新挑戰
深偽技術的力量和挑戰
政治煽動和合成媒體
最近在第一夫人吉爾·拜登(Jill Biden)身上發現的一個深偽影片，她在其中批評自己的丈夫拜登總統的政策，凸顯了先進合成媒體技術在政治中的強大演說潛力和日益浮現的挑戰，尤其是在即將到來且定必引發爭議的 2024 年美國總選舉。這段影片由影片製作人肯尼斯·拉特(Kenneth Lurt)創作，其中吉爾·拜登發表演講，批評拜登總統支援加薩地帶的空襲。拉特利用機器學習技術，生成了一個聽起來逼真的吉爾·拜登的聲音，她在演講中抨擊總統對加薩地帶和哈馬斯衝突的政策。該影片被釋出在以往的 Twitter 上，截至本文發表時，已經有 23 萬觀看次數。在 Reddit 的 r/Singularity 子版塊上，它獲得了超過 1,500 個贊同或社區推薦。合成媒體和政治宣傳的新時代
合成媒體和深偽技術在政治宣傳中的應用越來越普遍。今年早些時候，共和黨全國委員會(RNC)發布了一支影片，展示了拜登未來可能在 2024 年獲勝的生成影象。幾個月後，Never Back Down PAC 推出了一項價值百萬美元的廣告，其中使用了一個人工智慧生成的特朗普版本，批評了愛荷華州州長雷諾茲。這個廣告直接展示了如何利用合成媒體來推廣或攻擊候選人。然後，在 2023 年 9 月，諷刺作家 C3PMeme 發布了一個假影片，其中描繪了羅恩·迪桑提斯宣布退出 2024 年總統競選。儘管這是作為諷刺的意圖，但它顯示了深偽技術變得多麼容易和令人信服以及使用新興技術的操縱媒體進行蓄意誤導的潛力。這些例子是合成競選廣告的早期測試，一些專家擔心這可能會在即將到來的選舉中增加和加劇誤導訊息的流動。值得注意的是，拉特透過現有且相對便宜的 AI 工具完成了這種合成，只需要一周的時間利用他的剪輯和電影製作技能。雖然他試圖為審慎的觀眾留下“麵包屑”以顯示虛構，但它可能欺騙了普通觀眾。人類的努力和創造力仍然至關重要。創意和努力的關鍵
拉特認為，大多數 AI 工具仍然具有有限的質量，需要人類的電影製作技能才能創造出令人信服的作品。“大多數 AI 技術都很無聊和無用，因為它被用作創意、才華、經驗和人的激情的廉價作弊碼”，拉特解釋道。他強調後期制作和電影製作經驗的關鍵作用：“如果我把劇本、後期制作和真正的沖突去掉，只留下聲音亂說一些東西，那麼專案就一無所成。”正如拉特所強調的：“吉爾·拜登的影片讓我花了一個星期的時間，其他內容花了我一個月的工作。我可以告訴 AI 快速生成東西，但是是創意電影製作使其看起來更有真實感。”對進步的動力
根據拉特的說法，他希望透過引人注目且情感引人的敘事方式，“創造一個稍微好一點的世界”，並引起對巴勒斯坦真正的人道災難引起廣泛關注。具體而言，拉特的目的是描繪一個異常情節，即像吉爾·拜登這樣的“強大英雄”公開譴責她丈夫的政策和持續的暴力。他希望這個荒謬的情節，再加上加薩地帶的真實破壞影片，能迫使觀眾以一種報導所未能實現的方式，去思考地上的殘酷現實。為了實現廣泛的參與，拉特故意選擇了一個他認為太令人震驚和爭議的前題-第一夫人的異議演講-這是不容忽視的。使用現代合成媒體技術使他能以一種表面上可信的方式實現這個引人注目的概念。拉特的專案表明，合成媒體為新的討論提供了希望，但也帶來了有關真相、信任和責任的挑戰，社會必須應對。事前遏制而非審查：緩解合成媒體的挑戰
管制和教育的平衡
監管機構和倡導者們已經採取了各種策略來遏制深偽威脅，儘管仍然存在挑戰。在 8 月份，聯邦選舉委員會(FEC)透過公開評論政治廣告中的 AI 冒充行為向監督邁出了一步。然而共和黨委員迪克森(dickerson)對 FEC 的許可權表示懷疑，並且兩黨對詳細的提案立法可能存在分歧。企業也面臨著關於可能約束受保護的言論的內容政策的復雜選擇。完全禁止可能涉及過度幹涉，並且很難實施，而不採取行動則會使工作團隊處於脆弱狀態。針對平衡教育和責任的有針對性緩解措施提供了一條可行的前進道路。相對於過度反應式的約束，企業可以透過提倡媒體素養培訓，強調技術操縱標誌的重要性。將對不斷發展的技術技巧的意識與對非凡主張的懷疑結合起來，可以在不絕對的情況下實現對新興合成學問的細緻分析。警告僅僅依靠初步反應以及在評估爭議性主張時參考事實核查者，可以灌輸出社會公民習慣的韌性，更不容易受到煽動。這樣的培訓強調分析而不是審查，以法律的方式實現韌性。在這個複雜的時代，優先考慮的是明智的參與，而不是事先的約束態度。多方利益攸關者合作的重要性
無論對拉特的策略是否認同，他的解釋都提供了他在以新的方式使用合成多媒體來推動有影響力的政治辯論時的觀點。這是一個既展示了先進生成技術的潛力，又引發了倫理困境的案例研究。VentureBeat 的使命是成為技術決策者獲取有關企業變革技術和交易的數位城市廣場。Technology-AI 深偽技術,悔改者,ElevenLabs,JillBiden,聲音複製,真相揭開
延伸閱讀
- Tavus 募資 1800 萬美元，將人臉和聲音複製帶入任何應用程式
- ElevenLabs 推出 AI 配音技術，將影音檔翻譯成 20 種語言
- 「ElevenLabs 的語音生成工具正式上線，讓你的聲音直接在手中！」
- 打破語言障礙：ElevenLabs 推出多語言文字轉語音，為不同觀眾打造
- 跨越語言障礙：ElevenLabs 推出多語言文字轉語音，吸引多元化觀眾
- 「打破語言障礙：ElevenLabs 推出多語言文字轉語音，服務多元觀眾」
- AI 語音克隆新創公司 ElevenLabs 成功籌得 1900 萬美元投資，包括 a16z 在內，引起關注
- 聲音生成平臺 ElevenLabs 籌得 1900 萬美元，推出偵測工具
