歐盟擬提案，將 AI 製造的兒童色情及深偽影片犯罪化
提案內容
歐盟計畫就科技發展更新現有立法，將 AI 製造的影像以及其他深偽影片與兒童色情加以犯罪化。此外歐盟還提出創設新的犯罪行為，即現場直播兒童色情。而「兒童色情手冊」的擁有與交換也將列為犯罪行為。這一提案旨在加固預防兒童色情的措施，包括增加對網路風險的認知以及簡化受害者舉報犯罪並取得支援的流程。
背景
歐盟自 2011 年起即未曾更新過此領域的相關法規，因此提出了更新現行規則的提案。在 2022 年 5 月，歐盟已提出另一項關於兒童色情的法案，旨在要求數位服務提供商使用自動化技術來偵測和舉報其平臺上存在或新出現的兒童色情材料，並辨識與舉報針對兒童的誘騙活動。然而這一自動化偵測計畫引起了相當大的爭議，並持續對歐洲議會的議員以及委員會產生分歧。
爭議和挑戰
提案引起了大量批評，認為歐盟立法者將焦點放在了錯誤的地方，並且未能有效解決複雜的社會問題。然而近兩年來，人工智慧生成影像的風險和關注度顯著提升，包括擔憂該技術被濫用以製造兒童色情以及擔心這種合成內容可能使執法機構更難辨識真正的受害者。這些情況為立法者提供了明顯的激勵，以重審法規。
立法目的
提案的目的在於減少線上兒童色情和剝削的普遍不受懲罰現象，並尋求確保有效的法律工具來救援兒童並將加害者繩之以法。歐盟提案中進行的影響評估識別到了兒童線上上的存在以及最新技術的發展創造了新的兒童色情可能性。同時歐盟也希望針對成員國之間法律框架的差異，推動採取行動來打擊濫用，以改善當前有限的預防兒童色情的努力並協助受害者。內政專員 Ylva Johansson 在支援性宣告中表示快速發展的技術為線上兒童色情創造了新的可能性，並給執法機構帶來了調查這一極端嚴重且廣泛的犯罪的挑戰。她指出，強而有力的刑法至關重要。
結語
提案旨在鼓勵成員國加大對「提高意識」的投資。與自動偵測兒童色情材料的計畫類似，最終提案的形式將取決於歐盟的立法者。對於修改當前的打擊兒童色情指令，將於其在歐盟官方期刊發表後 20 天生效。這項提案也將在歐洲議會選舉以及今年晚些時候委員會的重組之前進行有限時間的討論。然而相較於自動偵測計畫，這一打擊兒童色情的提案可能會引起較少的分歧，並有機會得到透過。
相關連結：
- [提案內容介紹](link1)
- [歐盟官方宣告](link2)
延伸閱讀
- Skich 在歐盟推出 iOS 替代應用商店，顛覆傳統！
- 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
- 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
- 創作者收入平臺 Passes 遭控訴 涉嫌分發兒童色情內容！
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- 探索 DeepSeek：你必須理解的 AI 聊天機器人應用全指南！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
