AI Deepfake 廣告如何登上 TikTok？
引言
AI 技術日趨成熟，這也使得製作詐騙性的 AI Deepfake 影片愈發容易。最近一段時間，一段冒充 MrBeast 的廣告登上了 TikTok 平臺，此舉成功地躲過了 TikTok 的廣告審查機制。在這段廣告中，這位深具影響力的創作者看起來好像要以僅售 2 美元的價格，將 10,000 臺 iPhone 15 Pro 贈送給觀眾。在大多數情況下，這明顯是一個詐騙行為，但對於 MrBeast 來說這似乎是可以讓人信以為真的。MrBeast（本名 Jimmy Donaldson，25 歲，是 YouTube 上訂閱人數最多的創作者），因為拍攝越來越荒謬的特技影片而聞名，他在影片中不參與任何損失的情況下，給予人們免費的房屋和汽車（前提是他們同意出現在他的影片中）。最近，他甚至發起了一個讓‘地球上每個國家’的人都能有機會爭奪 25 萬美元賽事的奧運式迷你遊戲系列。所以，如果你不擅於辨識詐騙，而且回顧這段廣告正好是在深夜無法思考清楚的時候，你可能會認為 MrBeast 真的會以 TikTok 廣告的方式贈送 10,000 臺 iPhone。畢竟，他曾經真的給毫不知情的兒童免費贈送過 iPhone。 MrBeast 發推特說：“很多人我都收到這段 Deepfake 廣告……社交媒體平臺準備好應對 AI Deepfake 的崛起了嗎？這是一個嚴重的問題。”
廣告審查技術的失利
從富有善意的角度出發，這可能解釋了為什麼這段 Deepfake 廣告能夠獲得 TikTok 的批準。TikTok 在審查廣告時同時使用人工審核和 AI 輔助技術。因此基本上，TikTok 的 AI 與這個 Deepfake 廣告背後的 AI 進行對抗，並且敗北了。TikTok 告訴 TechCrunch，此廣告在發布數小時內就已被刪除，因為它違反了 TikTok 的廣告政策。TikTok 並沒有完全禁止廣告商使用合成或被篡改的媒體，但平臺要求廣告商必須非常清楚地披露是否使用了這種技術。TikTok 在使用 AI 審核廣告方面並不是唯一的，Meta 表示它主要依賴於自動化技術，但與 TikTok 類似，它也使用人工審核員來訓練 AI，並有時人工審核廣告。
欺騙性 Deepfake 並不罕見
深度偽造技術並不新鮮，但是隨著 AI 在投資者和消費者之間變得越來越受追捧，這種技術變得比以往任何時候都更容易獲得。在像 MrBeast 這樣的網際網路名人吸引著年輕一代的同時年長的消費者也被蒙騙了。就在本週，演員湯姆·漢克斯和 CBS 新聞主播蓋爾·金都警告他們的粉絲，他們被深度偽造進入詐騙廣告中。“小心！”湯姆·漢克斯在 Instagram 上寫道，“有一個影片正在推廣某種 AI 版本的牙科計劃。而我和此事無關。”聯邦貿易委員會（FTC）已經對深度偽造市場發出了警告，但這種做法被證實很難大規模監管。隨著全球選舉即將來臨，這種具有迷惑性廣告的後果將變得更加嚴重。
由 AI 生成的影像對選舉的影響有多大？
深度偽造的選舉風險引發歐盟要求提供更多生成式 AI 保障
關鍵詞: 假影片、AI 廣告、TikTok、MrBeast、Deepfake
延伸閱讀
- 特斯拉 CEO 為人工智慧新創公司籌集 60 億美元，TikTok 是否在逃避蘋果的傭金？
- TikTok 擴充套件高級廣告位置，美國禁令或成變故
- 披露螢幕截圖顯示 TikTok 繞過蘋果應用商店傭金
- Twitch 推出類似 TikTok 的發現功能，適用於所有使用者
- 瑞碧公司迎來好訊息，TikTok 卻遇到壞訊息，早期新創公司則是中性訊息
- Snapchat 宣布其 TikTok 競爭者的總觀看時間增長超過 125%
- 深入剖析 TikTok 圍繞言論自由和國家安全主張的法律論點
- TikTok 因擔心成癮問題從歐盟 Lite 應用程式中移除功能
- 拜登簽署法案，如果位元組跳動未能出售 TikTok 將禁用該應用
- 參議院透過法案，迫使位元組跳動出售 TikTok，否則將面臨禁令
