YouTube 收緊監管政策，禁止逼真模擬已故兒童或犯罪受害者的 AI 內容
政策調整
YouTube 宣布將更新其騷擾和網路欺凌政策，以打擊那些「逼真模擬」已故未成年人或死亡或暴力事件受害者的內容，並描述他們的死亡過程。這一 Google 旗下平臺表示將從 1 月 16 日開始對這類內容進行打擊。這項政策調整正是為了應對一些真實犯罪內容創作者使用人工智慧來重現已故或失蹤兒童的外貌所做出的舉動。在這些令人不安的案例中，人們使用 AI 賦予這些知名案件的兒童受害者一種童真的「聲音」來描述他們的死亡。
引發議論
最近幾個月，內容創作者使用 AI 來敘述眾多高知名度案件，包括英國兩歲男童詹姆斯·布林格的綁架和死亡案以及從一個度假勝地失蹤的英國三歲女童瑪德琳·麥坎恩的情況。同樣也有關於加利福尼亞州一名 8 歲男孩加布裏埃爾·費南德斯被虐待和謀殺的 AI 敘述。這引發了社會對於這些使用 AI 的模擬內容是否適當的廣泛討論。
影響與反響
根據 YouTube 的新政策，違規內容將被刪除，並且收到警告的使用者將在一周內無法上傳影片、直播或故事。三次警告後，使用者的頻道將永久從 YouTube 上刪除。這些新變化來自 YouTube 在近兩個月前推出的新政策，該政策圍繞 AI 內容的負責任披露以及請求刪除深度偽造影片的新工具。
深度解析
這些改變之一要求使用者在建立看似逼真的修改或合成內容時進行披露。公司警告表示未能適當披露其使用 AI 的使用者將受到「內容刪除、暫停 YouTube 合夥人計劃或其他懲罰」。此外 YouTube 在當時指出，一些可能展示「逼真暴力」的 AI 內容可能會被刪除，即使標記過。
專家建議
對於這一議題，專家們提出需要網路平臺加固內容審查和監管，同時也呼籲內容創作者應該遵從道德和法律準則，避免利用 AI 技術來製作令人不安的內容。此外教育公眾認識到這些內容可能對受害者家屬和社會帶來的傷害也非常重要。
結論
政策調整後，YouTube 將更加嚴格地監管存在爭議的 AI 內容，這使得這一平臺更能夠保證使用者能夠獲得一個較為健康和安全的線上環境。值得注意的是，AI 技術的濫用和不當使用可能對社會造成不良影響，因此這些監管和政策的更新是非常必要的。
延伸閱讀
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 亞馬遜成立新型代理 AI 團隊，將如何改變科技未來？
- 「搶先報名！TechCrunch Sessions: AI 演講者申請截止日期迫在眉睫！」
- MWC 最新報導：AI 影響力的兩極化觀點首次曝光！
- 亞馬遜新推出 Alexa+：為孩子們帶來 AI 驅動的「探索」與「故事」新功能！
- YouTube 月活躍播客觀眾突破十億，影音平臺新紀元來臨！
- Bridgetown Research 載著 AI 助力，成功募資 1900 萬美元加速盡職調查！
- Nomagic 獲得 4400 萬美元資金，AI 驅動的機器手臂技術將改變未來！
- 全方位理解 Anthropic 的 AI：揭開 Claude 的神祕面紗！
- YouTube 全新策略：廣告插入將更流暢不打擾使用者！
