YouTube 收緊監管政策，禁止逼真模擬已故兒童或犯罪受害者的 AI 內容
政策調整
YouTube 宣布將更新其騷擾和網路欺凌政策，以打擊那些「逼真模擬」已故未成年人或死亡或暴力事件受害者的內容，並描述他們的死亡過程。這一 Google 旗下平臺表示將從 1 月 16 日開始對這類內容進行打擊。這項政策調整正是為了應對一些真實犯罪內容創作者使用人工智慧來重現已故或失蹤兒童的外貌所做出的舉動。在這些令人不安的案例中，人們使用 AI 賦予這些知名案件的兒童受害者一種童真的「聲音」來描述他們的死亡。引發議論
最近幾個月，內容創作者使用 AI 來敘述眾多高知名度案件，包括英國兩歲男童詹姆斯·布林格的綁架和死亡案以及從一個度假勝地失蹤的英國三歲女童瑪德琳·麥坎恩的情況。同樣也有關於加利福尼亞州一名 8 歲男孩加布裏埃爾·費南德斯被虐待和謀殺的 AI 敘述。這引發了社會對於這些使用 AI 的模擬內容是否適當的廣泛討論。影響與反響
根據 YouTube 的新政策，違規內容將被刪除，並且收到警告的使用者將在一周內無法上傳影片、直播或故事。三次警告後，使用者的頻道將永久從 YouTube 上刪除。這些新變化來自 YouTube 在近兩個月前推出的新政策，該政策圍繞 AI 內容的負責任披露以及請求刪除深度偽造影片的新工具。深度解析
這些改變之一要求使用者在建立看似逼真的修改或合成內容時進行披露。公司警告表示未能適當披露其使用 AI 的使用者將受到「內容刪除、暫停 YouTube 合夥人計劃或其他懲罰」。此外 YouTube 在當時指出，一些可能展示「逼真暴力」的 AI 內容可能會被刪除，即使標記過。專家建議
對於這一議題，專家們提出需要網路平臺加固內容審查和監管，同時也呼籲內容創作者應該遵從道德和法律準則，避免利用 AI 技術來製作令人不安的內容。此外教育公眾認識到這些內容可能對受害者家屬和社會帶來的傷害也非常重要。結論
政策調整後，YouTube 將更加嚴格地監管存在爭議的 AI 內容，這使得這一平臺更能夠保證使用者能夠獲得一個較為健康和安全的線上環境。值得注意的是，AI 技術的濫用和不當使用可能對社會造成不良影響，因此這些監管和政策的更新是非常必要的。ChildProtection-YouTube,監管,AI,內容,逼真模擬,已故兒童,犯罪受害者
延伸閱讀
- Ofcom 將推動在新的網路兒童安全守則中，加固年齡取證、篩選和其他 40 項檢查
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
