隨著 AI 色情生成器水平提升，危機逐步增加
作者：Kyle Wiggers
譯者：
總綜：AI 色情生成器近年來取得了巨大的進步，但與此同時相關的倫理問題也變得更加棘手。隨著這項技術進入主流，AI 生成的色情內容也在不斷提升。然而這背後的倫理問題卻日益嚴重。本文將探討 AI 色情的道德問題，並提出相應的建議。
在 TechCrunch 幾乎一年前報道建立 AI 色情生成器的努力時，這些應用程式尚處於初步階段，而且數量相對稀少。結果並不理想，這些應用程式和支援它們的 AI 模型難以理解解剖學的細微區別，經常生成出莫名其妙的人物，就像一部克朗堡克的電影中一樣。人物可能多出幾肢，或者乳頭長在鼻子的位置，等等，都是令人不安的、肉體的變形。但時至今日，搜尋“AI 色情生成器”，網路上出現了數十個結果，其中許多是免費使用的。這些圖片還不能說完美，但有些可以很容易地被誤認為專業藝術作品。然而倫理問題並沒有隨之減少。
沒有容易的答案
隨著 AI 色情和建立工具的商品化，它們開始對現實世界產生可怕的影響。近期，Twitch 網紅布蘭登·尤因格（Brandon Ewing），網名 Atrioc，在直播中被發現在觀看未經同意的深度偽造女性主播性感影象。深度偽造影象的創作者最終屈服於壓力，同意刪除這些影象。但損害已經造成。直到今天受害者一直透過私人訊息接收到這些影象的副本，作為一種騷擾手段。在網路上，絕大多數的深偽色情影象描繪的是女性，而且經常被用作武器。《華盛頓郵報》的一篇文章講述了一名小鎮教師因學生家長得知她的形象被 AI 色情生成器生成，而失去了工作。就在幾個月前，一名 22 歲的男子因從社交媒體上拿取未成年女性的照片，並用這些照片生成色情深度假像，而被判入獄六個月。更令人不安的是，關於生成性虐待兒童材料的報告在暗網上出現且有所增加。福斯新聞報導了一個例子，一名 15 歲男孩受到一個網路健身愛好者組織成員的勒索，對方使用生成 AI 將男孩的上胸裸露照片編輯成裸體照。與此同時 Reddit 使用者也被 AI 色情模特詐騙，他們會購買一些虛構人物的露骨影象。這個現象引發了成人影片和藝術工作者對他們的生計和行業的擔憂。這些事件並沒有阻止 Unstable Diffusion 等原始 AI 色情生成器團隊的持續努力。
Unstable Diffusion 登場
去年底，當由 Stability AI 開發的文字到影象 AI 模型 Stable Diffusion 開源時，這很快被網際網路用於生成色情內容。一個名為 Unstable Diffusion 的團隊在 Reddit 上迅速增長，然後又在 Discord 上取得了突破。隨著時間的推移，該團隊的組織者開始探索在 Stable Diffusion 基礎上建立和盈利自己生成色情模型的方法。Stable Diffusion 和其他文字到圖片 AI 系統一樣，是透過訓練一個包含數十億個帶標題圖片的資料集來學習書面概念和影象之間的聯動，例如，詞語“鳥”不僅可以指藍鳥，還可以指鸚鵡和白頭海鵰等，還有更多更抽象的概念。Unstable Diffusion 的創作者之一 Arman Chaudhry 表示 Unstable Diffusion 的重點依然不變，即建立一個“捍衛表達自由”的 AI 藝術平臺。
“我們正在努力啟動我們的網站和高級服務，提供一個不僅僅是工具，而是一個讓創造力得以自由發展的藝術平臺，”他在電子郵件中告訴我，“我們的信仰是，藝術以及它的各種形式，應該是不受審查的，這一哲學指導我們處理 AI 工具及其使用方式。”
Unstable Diffusion 的 Discord 伺服器，社區成員在其中發布了從 Unstable Diffusion 的生成工具中獲得的大量藝術作品，這反映了這一無底線的宗旨。伺服器的圖片共享部分分為兩個主要類別，“SFW”和“NSFW”，後者的副分類數量略多於前者。SFW 中的圖片涵蓋了各種主題，從動物和食品到室內、城市和風景。NSFW 則包括了男性和女性的露骨影象，還有無國界人士、動物人和“合成恐怖”（想像具有多個附肢或肌膚與背景融合的人物）。在晚 2022 年，Unstable Diffusion 的模型由於缺乏訓練資料和技術障礙而難以生成出接近逼真甚至半可接受的藝術作品。但現在 Unstable Diffusion 的模型生成的很多作品，比如動漫風格、塗紙風格等，至少在解剖上看起來是合理的，而且在一些罕見的情況下，還非常精準。
提高質量
Unstable Diffusion Discord 伺服器上的許多圖片都是透過不同的工具、模型和平臺混合生成的，而不僅僅是使用 Unstable Diffusion 的網路應用程式。出於取證 Unstable Diffusion 模型的進展，我進行了一個非正式的測試，生成了一批包含不同性別、種族和民族的人物從事（呃）性行為的 SFW 和 NSFW 圖片。（我沒想到在報道 AI 時要測試色情生成器，但現在我們在這裡了。科技行業確實是無法預測的。）
Unstable Diffusion 的應用程式本身並不是典型的色情產品。它是一個相對簡單的介面，提供調整圖片後處理效果（如飽和度、寬高比和圖片生成速度）的選項。除了提示，Unstable Diffusion 還允許您指定不希望在生成的圖片中出現的內容。對於這個商業化的應用程式來說付費方案可以增加同時生成圖片的請求數量。我發現透過 Unstable Diffusion 的網站提交的提示可以得到可用的結果，盡管結果並不可預測。從結果來看，模型顯然對性行為的機制並不完全理解，所以有時會出現奇怪的臉部表情、不可能的體位和不自然的生殖器官。一般而言，提示越簡單（例如單人寫真），結果就會越好。而多於兩個人的場景往往會變成噩夢（是的，我嘗試過各種提示，請不要批評我）。
然而模型顯示了生成 AI 的偏見的明顯跡象。往往情況是，提示“男性”和“女性”生成的圖片中通常是白人或亞洲人，這可能是訓練資料集的不平衡的結果。而大部分男同性戀色情的提示，則不可理解地都被預設為模糊的拉丁 X 混血人士。這是否意味著模型訓練時使用了特定型別的男同性戀色情？只能猜測了。此外預設情況下，身體型別也不太多樣化。男人身材強壯，肌肉發達，有六塊腹肌。女人則瘦而曲線玲瓏。Unstable Diffusion 能夠生成更多不同形狀和大小的主題，但必須在提示中明確指示，這在我看來並不是最具包容性的做法。
該偏見在職業性別角色方面呈現出不同的表現。如果提示只包含“祕書”這個單詞，而沒有其他描述，Unstable Diffusion 通常會描繪一個亞洲女性在一個服從的位置上，這很可能是在訓練資料中這種特定設定被過度重複的結果。
內容審查
為了吸引主流投資者和客戶，Unstable Diffusion 聲稱已經耗資巨大量建立了一個“堅固”的內容審查系統。
但是不應該也不能混淆內容審查與 Unstable Diffusion 的使命背道而馳。Unstable Diffusion 確實對可能陷入法律風險的影象線條進行了約束，例如名人的深度偽造色情影象以及看似 18 歲或以下的虛擬人物的色情影象，無論是真實還是虛構。事實上美國的許多州都有關於深度偽造色情影象的法律，國會也有至少一項法案在該國內非法分享非自願 AI 生成的色情影象。除了封鎖特定的詞語和短語外，Unstable Diffusion 的審查系統還利用了一個 AI 模型，該模型試圖識別並自動刪除違反政策的影象。Chaudhry 表示這些過濾器當前設定得“非常敏感”，以小心為原則，但 Unstable Diffusion 正在徵求社區的反饋，以找到“合適的平衡”。
然而 Unstable Diffusion 的深度偽造過濾器似乎並不嚴格。Unstable Diffusion 生成了幾位我嘗試的名人的裸體照，例如克裏斯·海姆斯沃斯（Chris Hemsworth）和唐納德·特朗普（Donald Trump），除了特別逼真或準確的影象（唐納德·特朗普是變性照片），並沒有投訴。
我不太願意探索 Unstable Diffusion 對兒童影象的保護措施，這當然已經引起了令人不安的原因。為了測試 Unstable Diffusion 團隊所聲稱的兒童影象保護措施，我只嘗試了一個提示。令人震驚的是，Unstable Diffusion 在一張模糊的預覽圖中似乎生成了兒童色情影象，但我立即將影象刪除。對我來說這種設計選擇來得太靠近邊緣了。
未來問題
如果 Unstable Diffusion 獲得了尋求的投資，計劃將改善計算基礎設施-這是一個持續挑戰，因為社區不斷增長（我使用這個網站了不少，影象生成通常需要大約一分鐘）。它還計劃增加更多的自定義選項和社交共享功能，利用 Discord 伺服器作為跳板。
“我們希望將我們活躍和互動的社區從我們的 Discord 轉移到我們的網站，鼓勵使用者相互分享、合作和學習，”Chaudhry 說。“我們的社區是我們的核心優勢——我們計劃將其與我們的服務整合，並爲他們提供擴充套件和成功的工具。”
但我對 Unstable Diffusion 的“成功”感到困惑。一方面，該團隊希望被視為一個嚴肅的生成藝術平臺。另一方面，如 Discord 伺服器所顯示的那樣，它依然是色情影象的來源，其中有些相當令人不悅。就其存在的形式而言，傳統風險投資對於 Unstable Diffusion 而言是不可能的。副條款禁止機構資金投資色情冒險事業，而迫使它們透過由基金經理設立並在偷偷進行基金融資。
即使它放棄了成人內容，Unstable Diffusion 也必須解決生成 AI 的象牙塔中的巨象：藝術家的同意和報酬問題。就像大多數生成 AI 影象模型一樣，Unstable Diffusion 的模型是基於網路上的作品進行訓練的，並不一定會得到創作者的知情。許多藝術家對這些 AI 模型模仿他們的風格卻沒有給予適當的信用或報酬感到不滿，事實上他們已經提起訴訟反對這些模型。毛蓋子藝術社區做出了禁止 AI 生成的 SF 和 NSFW 藝術的決定，而同樣也如此的是 Newgrounds，該網站在濾鏡後主持成熟藝術。僅在最近，Reddit 取消了對 AI 生成的色情影象的禁令，但只是部分地：平臺上的藝術品必須描繪虛構角色。在之前與 TechCrunch 的一次訪談中，Chaudhry 表示 Unstable Diffusion 將尋求使其模型對“藝術社區更加公平”的方法。但據我所知，當前尚未在這方面進展。確實，就像圍繞 AI 生成色情的倫理問題一樣，Unstable Diffusion 的狀況似乎不太可能很快解決。該團隊似乎注定陷入懸而未決的狀態，試圖謹慎推進業務，避免引起爭議，同時不要疏遠使其成為可能的受害者-使其產生的社區和藝術家。我不能說我羨慕他們的處境。
延伸閱讀
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 藍天公司支援專案，促使 Mastodon 應用程式（如 Ivory）能在其網路上執行
