YouTube 將要求製作者揭露 AI 製作的逼真內容
重要公告對 AI 製作的規範
YouTube 在週一宣布，現在要求製作者在逼真內容是使用 AI 製作時，必須向觀眾披露這一資訊。平臺正在推出一項新工具，Creators Studio 將要求製作者在觀眾可能誤以為是真實人物、地點或事件的內容中，披露使用修改或合成媒體，包括生成式 AI 製作的情況。這些新披露旨在防止使用者被混淆，誤以為是真實的合成影片，因為新的生成式 AI 工具使得區分真假變得更加困難。這一航次釋出之際，專家們警告稱 AI 和深度偽造在即將舉行的美國總統大選期間將帶來顯著風險。這項公告當天宣佈，也與 YouTube 去年 11 月宣布的更新計劃相呼應，這是其新 AI 政策的一部分。
明確披露的要求
YouTube 表示新政策並不要求製作者披露明顯不現實或動畫的內容，比如某人騎著獨角獸穿越奇幻世界。它也不要求製作者披露使用生成式 AI 進行製作輔助的內容，比如產生劇本或自動字幕。相反，YouTube 針對使用逼真人物形象的影片進行監管。例如，製作者必須在數位修改內容以“用他人的臉替換一個人的面孔，或合成生成一個人的聲音來敘述影片”時進行披露。他們還必須披露修改真實事件或地點的影片，例如讓真實建築物看起來像著火了。製作者還必須披露當他們生成虛構重大事件的逼真場景，比如龍捲風朝向一個真實小鎮的情況。YouTube 表示大多數影片將在擴充套件說明中出現標籤，但對於觸及健康或新聞等更敏感主題的影片，公司將在影片本身上更顯眼地標註。觀眾將在未來幾週內在所有 YouTube 格式中看到這些標籤，首先在 YouTube 手機應用程式上，然後很快會出現在桌面和電視上。YouTube 計劃對那些一直選擇不使用標籤的製作者採取執行措施。該公司表示如果製作者沒有新增標籤，尤其是當內容有可能混淆或誤導人們的時候，將在某些情況下自行新增標籤。
深度偽造的潛在影響
針對這一航次公告，我們必須明確看待 AI 技術和深度偽造技術在當前社會和政治議題中的潛在影響。隨著技術的發展，我們越來越難以區分真實和虛假。這不僅對新聞業和大眾傳媒構成了挑戰，更對社會和政治穩定產生潛在風險。這項新公告是個重要訊號，表明大型平臺對於虛假資訊和影視作品的監管將會更為嚴格，這對於網路空間的環境維護至關重要。
未來政策應重點
這一新政策不僅僅是 YouTube 自身的信心，也是整個網路空間中對於虛假資訊和深度偽造的應對之舉。然而隨著 AI 技術的不斷發展，這樣的監管政策是否足夠應對將是一個值得關注的問題。未來，我們需要更加智慧地應對 AI 技術帶來的各種挑戰，包括對影視作品的監管及其影響。
網民應如何應對
對於網民來說面對 AI 技術帶來的深度偽造影片，一個重要的應對手段是提高對技術合成影像的警覺性。在觀看影片時，盡量多聽取不同觀點，並且對於存在爭議性資訊和影視作品，不要過於輕信。同時政府和企業也需要透過更加積極的監管和技術手段，來維護網路空間的真實性和公平性。
延伸閱讀
- YouTube 推出全新 AI 更新：自動配音擴充套件、年齡識別科技及更多功能！
- 流媒體巨頭爭奪 YouTube 的廣告寶藏，誰能勝出？
- YouTube 推出全新自動配音功能，知識型內容再升級！
- YouTube 玩起來了！即將推出多人迷你遊戲，與朋友同樂！
- YouTube 誠摯道歉！錯誤封禁頻道及取消訂閱引風波
- YouTube 進軍 TikTok！新短片功能、模板與潮流引爆創作熱潮！
- 歐盟 DSA 執法者加大力度：Snapchat、TikTok 與 YouTube 面臨 AI 風險的檢視！
- YouTube 因 SESAC 爭議封鎖阿黛爾、綠日、鮑勃·迪倫等多位藝術家的音樂影片！
- 全新 Google NotebookLM：智慧筆記功能大升級，支援 YouTube 與音訊分享討論！
- YouTube 推出新功能，幫助創作者有效避免影片下架！
