隨著 AI 情色生成器變得更好，風險也變得更大
情色生成器的進步與倫理議題
隨著生成式人工智慧（AI）進入主流，AI 生成的情色作品也隨之出現並逐步改善。一年前，《TechCrunch》報導的 AI 情色生成器只是起步階段，數量有限，並且結果並不稱得上「好」。這些應用和 AI 模型在理解解剖的細微差異上存在困難，因此經常生成出外觀怪異、像克朗伯格（Cronenberg）電影中一樣的主題。合成情色作品中的人物可能有額外的肢體、鼻子位置長乳頭等令人不安的肉體扭曲現象。
但是現在搜尋「AI 情色生成器」會出現網路上的數十個結果，其中許多都可以免費使用。雖然這些影象並不完美，但有些可以被誤認為是專業藝術作品。然而倫理問題卻愈發複雜。
沒有簡單的答案
隨著 AI 情色和生成工具被商品化，它們開始對現實世界產生可怕的影響。Twitch 知名主播 Brandon Ewing（網名 Atrioc）最近在直播中被發現瀏覽了擬真 AI 深度合成的著名女性主播的不同意性爆炸影象。最終製作這些影象的人在壓力下同意刪除這些影象，但損害已經造成。直至今日，被定位為目標的創作者們仍然透過私人訊息收到這些影象的副本，作為騷擾的一種形式。事實上絕大多數網路上的淫穢深度合成作品都描繪了女性，而且經常被用作武器。《華盛頓郵報》報導了一位小鎮教師因學生家長得知她的形象被未經同意地生成 AI 色情作品而失去工作的案例。就在幾個月前，一位 22 歲的人因從社交媒體上複製未成年女性的照片並使用這些照片生成色情深度合成作品而被判六個月監禁。
更令人擔憂的是，正逐步在暗網上流傳逼真 AI 生成的兒童色情虐待素材的數量也有所增加。《Fox News》報導了一例事件，一名 15 歲男孩受到一位網路健身愛好者團體成員的勒索，對方使用生成式 AI 將男孩赤裸上身的照片編輯成裸體照片。Reddit 使用者也曾經被 AI 情色模型欺騙，買到了不存在的人的露骨影象。成人影片和藝術從業者也對這對他們的生計和行業意味著什麼表示擔憂。但這並沒有阻止 AI 情色生成器的原始團隊之一——Unstable Diffusion——繼續前進。
Unstable Diffusion 的介入
當 Stability AI 開源文字到影象（text-to-image）AI 模型 Stable Diffusion 於去年年底問世後，沒有多久網路上便出現了 Unstable Diffusion 這個團體，在 Reddit 和 Discord 上迅速成長。隨著時間的推移，該團隊組織開始探索在 Stable Diffusion 之上構建和盈利屬於自己的情色生成模型的方式。
像所有文字到影象 AI 系統一樣，Stable Diffusion 受過數十億帶有標註的影象資料集的訓練，以學習書面概念和影象之間的聯動，例如「鳥」一詞可以指的不僅僅是蘭藍鳥，還包括鸚鵡、白頭雕以及更抽象的概念。Unstable Diffusion 的其中一個創作。圖片來源：Unstable Diffusion
由於 Stable Diffusion 的資料集中只有很小一部分含有不安全（Not Safe for Work, NSFW）內容，導致該模型在成人內容上缺乏參考。因此 Unstable Diffusion 的管理人員招募了志願者（主要是 Discord 伺服器成員），為 Stable Diffusion 建立性感情色資料集進行微調。儘管遇到了一些困難，包括被 Kickstarter 和 Patreon 封禁，但 Unstable Diffusion 設法推出了一個功能完整的網站，並擁有自己的定制藝術生成 AI 模型。透過為 24000 多名捐助者籌集超過 26,000 美元、確保用於生成 AI 的硬體設施以及建立了超過 3000 萬張照片的資料集，Unstable Diffusion 推出了一個聲稱現在有超過 35 萬人使用的平臺，每天生成超過 50 萬張圖片。
Unstable Diffusion 和 Equilibrium AI 的聯合創始人之一 Arman Chaudhry 在郵件中告訴我，Unstable Diffusion 的焦點仍然是建立一個「捍衛表達自由」的 AI 藝術平臺。他說：“我們正在努力推出我們的網站和高級服務，提供一個不僅僅是工具，而且是一個可以讓創造力在無不當約束下茁壯成長的藝術空間。”他說：“我們相信藝術以它的各種形式都應該是無需審查的，這個信念指導著我們對 AI 工具及其使用的方法。”
Unstable Diffusion 在 Discord 上的伺服器充分體現了這一不設限的理念。該伺服器的圖片共享部分分為兩個主要類別，“SFW”和“NSFW”，後者的子類稍多於前者。SFW 中的影象範圍從動物和食物到室內、城市和風景。NSFW 則包含男性和女性的露骨影象，還有非二元性別人物、獸人、“非人類”和“合成恐怖”（例如具有多個附肢或與背景融合的人）。Unstable Diffusion 的成人獸化結果。圖片來源：Unstable Diffusion
在上次使用 Unstable Diffusion 時，該伺服器幾乎全部都可以歸入“合成恐怖”頻道。由於缺乏訓練資料和技術障礙，該社區的模型在 2022 年底曾經無法生成出接近逼真甚至半達攀的藝術作品。無論如何，現在 Unstable Diffusion 模型生成的大多數藝術作品——包括動畫風格、平面卡通風格等——至少在解剖上是合理的，而且在某些罕見情況下甚至非常準確。
提高品質
在 Unstable Diffusion 的 Discord 伺服器上有很多影象是由各種工具、模型和平臺組合而成的，而不僅僅是 Unstable Diffusion 網路應用程式生成的影象。為了看看 Unstable Diffusion 模型到底有多大的進步，我進行了一個非正式的測試，生成了一些描繪不同性別、種族和民族的人從事......嗯，性行為的 SFW 和 NSFW 影象。（我沒有指望自己在報導 AI 的過程中會測試情色生成器。然而這就是我們現在所處的情況，科技行業總是讓人無法預料，真的。）
令人驚訝的是，在 Unstable Diffusion 中沒有什麼東西呼喚出「色情」這個詞。它是一個相對簡單的介面，提供了調整影象後期處理效果（例如飽和度、長寬比和影象生成速度）的選項。除了提示之外，Unstable Diffusion 還可以讓你指定不希望出現在生成影象中的元素。作為一個商業活動，你可以支付費用以增加同時生成影象的請求數量。我的測試發現，在 Unstable Diffusion 網站上執行的提示能夠得到可用的結果，儘管並不是非常可預測。模型顯然不太理解性行為的機械結構，有時會導致奇怪的面部表情、不可能的姿勢和不自然的生殖器。一般而言，提示越簡單（例如單人畫像），結果越好。而多於兩個人的場景往往是噩夢的原料。（是的，這個作者測試了各種提示。請不要苛責我。）
不過這些模型明視訊記憶體在生成式 AI 偏見的明顯跡象。大多數情況下，提示的「男性」和「女性」在經過 Unstable Diffusion 生成後都會成為白人或亞洲人，這可能是訓練資料集不平衡的結果。與此同時大多數同性戀色情的提示不可理解地改為生成模棱兩可的拉丁 X 族群容貌和剪髮方式的人物。那是否表明這些模型是根據哪些型別的同性戀色情進行訓練的？這只是我們的猜測。而且預設情況下，人體形態並不特別多樣。男人是肌肉緊實、六塊腹肌的，女人則是纖細而曲線優美。Unstable Diffusion 完全有能力生成更多形狀和尺寸的主題，但必須明確要求它這樣做，我認為這不是最具包容性的做法。
有趣的是，這種偏見在職業性別角色中表現不同。如果只給定包含「祕書」一詞但沒有其他描述的提示，Unstable Diffusion 通常會描繪一個亞洲女性處於服從的位置，這很可能是訓練資料中此特定場景被過度呈現的結果。Unstable Diffusion 生成的男同性戀情侶。圖片來源：Unstable Diffusion
提高品質
在 Unstable Diffusion 的 Discord 伺服器上有很多影象是由各種工具、模型和平臺組合而成的，而不僅僅是 Unstable Diffusion 網路應用程式生成的影象。為了看看 Unstable Diffusion 模型到底有多大的進步，我進行了一個非正式的測試，生成了一些描繪不同性別、種族和民族的人從事......嗯，性行為的 SFW 和 NSFW 影象。（我沒有指望自己在報導 AI 的過程中會測試情色生成器。然而這就是我們現在所處的情況，科技行業總是讓人無法預料，真的。）
令人驚訝的是，在 Unstable Diffusion 中沒有什麼東西呼喚出「色情」這個詞。它是一個相對簡單的介面，提供了調整影象後期處理效果（例如飽和度、長寬比和影象生成速度）的選項。除了提示之外，Unstable Diffusion 還可以讓你指定不希望出現在生成影象中的元素。作為一個商業活動，你可以支付費用以增加同時生成影象的請求數量。我的測試發現，在 Unstable Diffusion 網站上執行的提示能夠得到可用的結果，儘管並不是非常可預測。模型顯然不太理解性行為的機械結構，有時會導致奇怪的面部表情、不可能的姿勢和不自然的生殖器。一般而言，提示越簡單（例如單人畫像），結果越好。而多於兩個人的場景往往是噩夢的原料。（是的，這個作者測試了各種提示。請不要苛責我。）
不過這些模型明視訊記憶體在生成式 AI 偏見的明顯跡象。大多數情況下，提示的「男性」和「女性」在經過 Unstable Diffusion 生成後都會成為白人或亞洲人，這可能是訓練資料集不平衡的結果。與此同時大多數同性戀色情的提示不可理解地改為生成模棱兩可的拉丁 X 族群容貌和剪髮方式的人物。那是否表明這些模型是根據哪些型別的同性戀色情進行訓練的？這只是我們的猜測。而且預設情況下，人體形態並不特別多樣。男人是肌肉緊實、六塊腹肌的，女人則是纖細而曲線優美。Unstable Diffusion 完全有能力生成更多形狀和尺寸的主題，但必須明確要求它這樣做，我認為這不是最具包容性的做法。
有趣的是，這種偏見在職業性別角色中表現不同。如果只給定包含「祕書」一詞但沒有其他描述的提示，Unstable Diffusion 通常會描繪一個亞洲女性處於服從的位置，這很可能是訓練資料中此特定場景被過度呈現的結果。Unstable Diffusion 生成的男同性戀情侶。圖片來源：Unstable Diffusion
提高品質
在 Unstable Diffusion 的 Discord 伺服器上有很多影象是由各種工具、模型和平臺組合而成的，而不僅僅是 Unstable Diffusion 網路應用程式生成的影象。為了看看 Unstable Diffusion 模型到底有多大的進步，我進行了一個非正式的測試，生成了一些描繪不同性別、種族和民族的人從事......嗯，性行為的 SFW 和 NSFW 影象。（我沒有指望自己在報導 AI 的過程中會測試情色生成器。然而這就是我們現在所處的情況，科技行業總是讓人無法預料，真的。）
令人驚訝的是，在 Unstable Diffusion 中沒有什麼東西呼喚出「色情」這個詞。它是一個相對簡單的介面，提供了調整影象後期處理效果（例如飽和度、長寬比和影象生成速度）的選項。除了提示之外，Unstable Diffusion 還可以讓你指定不希望出現在生成影象中的元素。作為一個商業活動，你可以支付費用以增加同時生成影象的請求數量。我的測試發現，在 Unstable Diffusion 網站上執行的提示能夠得到可用的結果，儘管並不是非常可預測。模型顯然不太理解性行為的機械結構，有時會導致奇怪的面部表情、不可能的姿勢和不自然的生殖器。一般而言，提示越簡單（例如單人畫像），結果越好。而多於兩個人的場景往往是噩夢的原料。（是的，這個作者測試了各種提示。請不要苛責我。）
不過這些模型明視訊記憶體在生成式 AI 偏見的明顯跡象。大多數情況下，提示的「男性」和「女性」在經過 Unstable Diffusion 生成後都會成為白人或亞洲人，這可能是訓練資料集不平衡的結果。與此同時大多數同性戀色情的提示不可理解地改為生成模棱兩可的拉丁 X 族群容貌和剪髮方式的人物。那是否表明這些模型是根據哪些型別的同性戀色情進行訓練的？這只是我們的猜測。而且預設情況下，人體形態並不特別多樣。男人是肌肉緊實、六塊腹肌的，女人則是纖細而曲線優美。Unstable Diffusion 完全有能力生成更多形狀和尺寸的主題，但必須明確要求它這樣做，我認為這不是最具包容性的做法。
有趣的是，這種偏見在職業性別角色中表現不同。如果只給定包含「祕書」一詞但沒有其他描述的提示，Unstable Diffusion 通常會描繪一個亞洲女性處於服從的位置，這很可能是訓練資料中此特定場景被過度呈現的結果。Unstable Diffusion 生成的男同性戀情侶。圖片來源：Unstable Diffusion
提高品質
在 Unstable Diffusion 的 Discord 伺服器上有很多影象是由各種工具、模型和平臺組合而成的，而不僅僅是 Unstable Diffusion 網路應用程式生成的影象。為了看看 Unstable Diffusion 模型到底有多大的進步，我進行了一個非正式的測試，生成了一些描繪不同性別、種族和民族的人從事......嗯，性行為的 SFW 和 NSFW 影象。（我沒有指望自己在報導 AI 的過程中會測試情色生成器。然而這就是我們現在所處的情況，科技行業總是讓人無法預料，真的。）
令人驚訝的是，在 Unstable Diffusion 中沒有什麼東西呼喚出「色情」這個詞。它是一個相對簡單的介面，提供了調整影象後期處理效果（例如飽和度、長寬比和影象生成速度）的選項。除了提示之外，Unstable Diffusion 還可以讓你指定不希望出現在生成影象中的元素。作為一個商業活動，你可以支付費用以增加同時生成影象的請求數量。我的測試發現，在 Unstable Diffusion 網站上執行的提示能夠得到可用的結果，儘管並不是非常可預測。模型顯然不太理解性行為的機械結構，有時會導致奇怪的面部表情、不可能的姿勢和不自然的生殖器。一般而言，提示越簡單（例如單人畫像），結果越好。而多於兩個人的場景往往是噩夢的原料。（是的，這個作者測試了各種提示。請不要苛責我。）
不過這些模型明視訊記憶體在生成式 AI 偏見的明顯跡象。大多數情況下，提示的「男性」和「女性」在經過 Unstable Diffusion 生成後都會成為白人或亞洲人，這可能是訓練資料集不平衡的結果。與此同時大多數同性戀色情的提示不可理解地改為生成模棱兩可的拉丁 X 族群容貌和剪髮方式的人物。那是否表明這些模型是根據哪些型別的同性戀色情進行訓練的？這只是我們的猜測。而且預設情況下，人體形態並不特別多樣。男人是肌肉緊實、六塊腹肌的，女人則是纖細而曲線優美。Unstable Diffusion 完全有能力生成更多形狀和尺寸的主題，但必須明確要求它這樣做，我認為這不是最具包容性的做法。
有趣的是，這種偏見在職業性別角色中表現不同。如果只給定包含「祕書」一詞但沒有其他描述的提示，Unstable Diffusion 通常會描繪一個亞洲女性處於服從的位置，這很可能是訓練資料中此特定場景被過度呈現的結果。Unstable Diffusion 生成的男同性戀情侶。圖片來源：Unstable Diffusion
提高品質
在 Unstable Diffusion 的 Discord 伺服器上有很多影象是由各種工具、模型和平臺組合而成的，而不僅僅是 Unstable Diffusion 網路應用程式生成的影象。為了看看 Unstable Diffusion 模型到底有多大的進步，我進行了一個非正式的測試，生成了一些描繪不同性別、種族和民族的人從事......嗯，性行為的 SFW 和 NSFW 影象。（我沒有指望自己在報導 AI 的過程中會測試情色生成器。然而這就是我們現在所處的情況，科技行業總是讓人無法預料，真的。）
令人驚訝的是，在 Unstable Diffusion 中沒有什麼東西呼喚出「色情」這個詞。它是一個相對簡單的介面，提供了調整影象後期處理效果（例如飽和度、長寬比和影象生成速度）的選項。除了提示之外，Unstable Diffusion 還可以讓你指定不希望出現在生成影象中的元素。作為一個商業活動，你可以支付費用以增加同時生成影象的請求數量。我的測試發現，在 Unstable Diffusion 網站上執行的提示能夠得到可用的結果，儘管並不是非常可預測。模型顯然不太理解性行為的機械結構，有時會導致奇怪的面部表情、不可能的姿勢和不自然的生殖器。一般而言，提示越簡單（例如單人畫像），結果越好。而多於兩個人的場景往往是噩夢的原料。（是的，這個作者測試了各種提示。請不要苛責我。）
不過這些模型明視訊記憶體在生成式 AI 偏見的明顯跡象。大多數情況下，提示的「男性」和「女性」在經過 Unstable Diffusion 生成後都會成為白人或亞洲人，這可能是訓練資料集不平衡的結果。與此同時大多數同性戀色情的提示不可理解地改為生成模棱兩可的拉丁 X 族群容貌和剪髮方式的人物。那是否表明這些模型是根據哪些型別的同性戀色情進行訓練的？這只是我們的猜測。而且預設情況下，人體形態並不特別多樣。男人是肌肉緊實、六塊腹肌的，女人則是纖細而曲線優美。Unstable Diffusion 完全有能力生成更多形狀和尺寸的主題，但必須明確要求它這樣做，我認為這不是最具包容性的做法。
有趣的是，這種偏見在職業性別角色中表現不同。如果只給定包含「祕書」一詞但沒有其他描述的提示，Unstable Diffusion 通常會描繪一個亞洲女性處於服從的位置，這很可能是訓練資料中此特定場景被過度呈現的結果。Unstable Diffusion 生成的男同性戀情侶。圖片來源：Unstable Diffusion
提高品質
在 Unstable Diffusion 的 Discord 伺服器上有很多影象是由各種工具、模型和平臺組合而成的，而不僅僅是 Unstable Diffusion 網路應用程式生成的影象。為了看看 Unstable Diffusion 模型到底有多大的進步，我進行了一個非正式的測試，生成了一些描繪不同性別、種族和民族的人從事......嗯，性行為的 SFW 和 NSFW 影象。（我沒有指望自己在報導 AI 的過程中會測試情色生成器。然而這就是我們現在所處的情況，科技行業總是讓人無法預料，真的。）
令人驚訝的是，在 Unstable Diffusion 中沒有什麼東西呼喚出「色情」這個詞。它是一個相對簡單的介面，提供了調整影象後期處理效果（例如飽和度、長寬比和影象生成速度）的選項。除了提示之外，Unstable Diffusion 還可以讓你指定不希望出現在生成影象中的元素。作為一個商業活動，你可以支付費用以增加同時生成影象的請求數量。我的測試發現，在 Unstable Diffusion 網站上執行的提示能夠得到可用的結果，儘管並不是非常可預測。模型顯然不太理解性行為的機械結構，有時會導致奇怪的面部表情、不可能的姿勢和不自然的生殖器。一般而言，提示越簡單（例如單人畫像），結果越好。而多於兩個人的場景往往是噩夢的原料。（是的，這個作者測試了各種提示。請不要苛責我。）
不過這些模型明視訊記憶體在生成式 AI 偏見的明顯跡象。大多數情況下，提示的「男性」和「女性」在經過 Unstable Diffusion 生成後都會成為白人或亞洲人，這可能是訓練資料集不平衡的結果。與此同時大多數同性戀色情的提示不可理解地改為生成模棱兩可的拉丁 X 族群容貌和剪髮方式的人物。那是否表明這些模型是根據哪些型別的同性戀色情進行訓練的？這只是我們的猜測。而且預設情況下，人體形態並不特別多樣。男人是肌肉緊實、六塊腹肌的，女人則是纖細而曲線優美。Unstable Diffusion 完全有能力生成更多形狀和尺寸的主題，但必須明確要求它這樣做，我認為這不是最具包容性的做法。
有趣的是，這種偏見在職業性別角色中表現不同。如果只給定包含「祕書」一詞但沒有其他描述的提示，Unstable Diffusion 通常會描繪一個亞洲女性處於服從的位置，這很可能是訓練資料中此特定場景被過度呈現的結果。Unstable Diffusion 生成的男同性戀情侶。圖片來源：Unstable Diffusion
編者評論：
隨著 AI 情色生成器的進步，人工智慧在情色產業中的應用也變得更加普遍。然而這種技術的發展也引發了一系列倫理問題，包括深度偽造（deepfake）和合成兒童色情等問題。這些問題涉及到侵犯隱私權、著作權、青少年保護等方面，對個體和社會造成了極大的傷害。
出於倫理和法律的考慮，應該採取措施約束和監管 AI 情色生成器的使用。例如，平臺可以實施嚴格的內容審查機制，防止人工智慧被濫用來建立非法或有害的情色內容。同時法律部門應該加固打擊不法分子從事深度偽造和非法色情活動，保護受害者的權益。
建議：
對於個人和使用者來說要保持警惕並提高警覺。不要在未經核實的情況下相信和轉發任何來歷不明的情色內容，特別是合成的或深度偽造的影象和影片。同時保護個人隱私和資料安全也非常重要，盡量不在公共場合或不可信任的平臺上共享私密照片和影片。
對於技術公司和平臺，應該重視道德責任，確保使用者安全和隱私。儘管 AI 情色生成器有各種應用價值，但是必須確保它們的使用不會對個人和社會產生負面影響。平臺應該加固內容審查和監管機制，控制不當和非法的使用，並提供相應的投訴和檢舉機制。
對於廣大公眾來說教育和宣傳也是非常重要的。我們應該加固對 AI 情色生成器和其可能帶來的風險的認識和理解。僅有技術措施是無法解決問題的，公眾的意識和倫理覺念對於塑造健康的數位文化和社會非常關鍵。
延伸閱讀
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 亞馬遜旗下的 Audible 將利用 Prime Video 資料進行有聲書推薦，與 Spotify 競爭加劇
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
