Reddit 對 AI 色情禁令存在特例
Reddit 現在明確允許以 AI 生成的描繪虛構角色的色情圖片
Reddit 曾經擊潰過其歷史上最大的抗議活動。接下來會有什麼呢？看來是讓能夠 AI 生成並不是深度偽造的色情內容再次合法化。今天Reddit 在其內容政策中明確規定了一項特例，允許「以 AI 生成的描繪虛構人物或角色的色情內容」。
背景
回顧一下背景：2018 年，Reddit 是許多平臺中禁止 Deepfake AI 色情社群的其中之一，宣告「非自願的色情片」是不被接受的。具體地，Reddit 修改了其第 3 條規則，禁止描繪可能被偽造的裸露或性接觸。然而從 2018 年起，Reddit 明確地允許了在經性工作者同意下分發的色情內容，而今天Reddit 又為 AI 生成的性內容增加了特例。
以下是新加入內容的部分，以粗體標示：
"請注意，此規則不適用於以共識分配的商業性媒體，該規則也不適用於描繪虛構人物或角色的 AI 生成的性媒體，或藝術描繪（如漫畫，動漫等）。當然你需要遵守我們關於尊重他人智慧財產權的規則。”
Reddit 在今天的宣告中進一步澄清：“【S】exually explicit AI-generated content violates our rules if it depicts a real, identifiable person”。然而值得注意的是，第 3 條規則並不是 Reddit 約束 Midjourney 和 Stable Diffusion 等向全平臺派送 NSFW AI 內容的唯一規則。第 6 條規定 Reddit 社區需要標記性暴露和/或冒犯性內容，以至於這些內容通常只會出現在選擇加入的 NSFW 社區中。第 4 條規則禁止涉及未 成年人的性或暗示性內容，無論是虛構的還是真實的。
值得一提的是，第 4 條規則今天也做出了調整："禁止分享描繪忽視、對未成年人進行的身體或情感虐待的內容"。
技術上講，智慧財產權法規也應該能阻止虛構的裸體 AI 人物出現在 Reddit 上。但要強制執行這一點是很困難的：在過去智慧財產權並沒有阻止 Rule 34（順便說一下，Rule 34 不是 Reddit 的規則）的出現。
評論
Reddit 最新的舉措引發了一些爭議。其中一方面，這被認為是對言論自由的進一步約束，特別是對於創作的束縛。畢竟，AI 生成的內容是虛構的，不應該被視為現實中的人物。然而另一方面，這也為 AI 生成的色情內容開了一個合法的視窗，而這些內容有可能被濫用並用於傷害他人。
在此討論中，我們必須思考一個重要的哲學問題：AI 生成的內容是否應該受到與現實人物相同的規範和道德準則的約束？
一些人認為 AI 生成的內容應該享有與現實人物不同的法律和道德地位，但這可能會開啟一個潘多拉的盒子。如果我們給予 AI 生成的內容太多自由，我們可能將面臨將其濫用為傷害、詐騙、侵犯智慧財產權等方面的風險。同時我們也必須問自己，AI 生成的內容是否應該被視為一種藝術形式，或僅僅是一種工具？如果我們認為它是藝術，那麼應該給予它更大的自由；但如果我們認為它是工具，那麼應該加固對其濫用的監管。
編輯建議
著名的法律哲學家約翰·斯圖爾特·密爾曾經提出了「傷害原則」（Harm Principle）。根據這一原則，我們只應該約束那些對他人施加傷害或造成傷害可能性的行為。從這個角度來看，我們應該尋求一種平衡，即在保護言論自由的同時防止 AI 生成的內容對他人造成傷害。
因此我建議 Reddit 在執行這一特例時採取以下措施：
1. 強化對未成年人的保護
新的規則明確禁止描繪兒童虐待的內容，這是非常重要的。然而 Reddit 應在這方面加固監管，確保沒有任何反常的內容滲透到平臺上。
2. 提供更多透明度和規範
對於 AI 生成的內容，我們需要更多的透明度和規範。Reddit 可以制定更具體的政策，明確區分哪些內容是違法、哪些內容是合法的。同時它也可以積極參與討論，向使用者解釋其決策的背後原則和價值觀。
3. 增強智慧財產權保護
雖然執行智慧財產權保護對於 AI 生成的內容來說是一個挑戰，但 Reddit 應該努力制止侵權行為。這將有助於保護創作者的權益，同時鼓勵創新和創意。
盡管 AI 生成的色情內容存在爭議，但無論如何，我們都需要從法律、倫理和技術等多個角度來探討這一問題。只有在確保尊重言論自由的同時我們才能合理約束 AI 生成內容對他人的傷害。
