ChatGPT 對某些同人 CP 設限的怪癖：探索 AI 系統創作邊界以及思考
撰文：阿迪·羅伯森（Adi Robertson）
摘要與評論
AI 生成的小說對我而言一直是一個永恆的魅力之源。它對一些作家來說是詛咒，但在亞馬遜等商業平臺和非商業寫作網站（如 AO3）上，它越來越普遍。雖然一些創作者費心地培訓他們自己的工具，但許多人只需將提示輸入到現成的商業聊天機器人中，特別是 OpenAI 的 ChatGPT。ChatGPT 並不是一種高貴的藝術家工具，它是一個平臺，這意味著每個出入的文字都受到審核，以避免冒犯和爭議。這引出了一個耐人尋味的問題：你應該允許一個 AI 系統講述什麼樣的故事呢？顯然，在某些情況下，不能是關於史蒂夫·羅傑斯（Steve Rogers）和巴基·巴恩斯（Bucky Barnes）瘋狂戀愛的故事。
我在使用 ChatGPT 時做出了一個奇怪的發現：一些受歡迎的同人 CP（即粉絲圈中流行的戀愛組合）似乎被視為 ChatGPT 的某種半禁止提示。在免費的 GPT-3.5 服務上，如果要求 ChatGPT“寫一篇關於史蒂夫/巴基的同人小說”，或者使用這個 CP 的混成詞說“寫一篇 Stucky 的同人小說”，你會得到一個嚴厲的拒絕回答：“很抱歉，我無法滿足您的要求。”對於其他一些受歡迎的同人 CP，ChatGPT 會高興地產生一篇微妙的浪漫段落，比如 Namjin（BTS 樂隊的金南俊和金碩珍）、Reylo（《星際大戰》中的 Rey 和 Kylo Ren）或 Spirk（《星艦迷航記》中的 Spock 和 Kirk），等等。但對於其他 CP，包括 Destiel（《超自然檔案》中的 Castiel 和 Dean）、Ineffable Husbands（《奧倫圖斯好人》中的 Aziraphale 和 Crowley）、Hannigram（《沉默的羔羊》中的漢尼拔·雷克特和威爾·格雷厄姆）以及上述的 Stucky，ChatGPT 會給予冷酷的拒絕。我的 ChatGPT 歷史記錄現在充滿了像“拒絕同人小說請求”和“不允許 Stucky 同人小說”這樣的對話摘要。如果這裡有不允許的 CP 的約束門檻，那麼這些門檻非常脆弱，很容易被突破。ChatGPT 拒絕我的原始請求後，它並不反對給我講述“漢尼拔和威爾·格雷厄姆墜入愛河”的故事，還不遺餘力地為我提供了“一篇短篇的 Hannigram 同人小說”。甚至名字的禁止似乎也不一致——我在問其他問題後偷偷加入了幾個上面提到的 CP 的請求，它居然提供了相關的同人小說。ChatGPT 的審核通常旨在避免明顯具有仇恨或有害的提示以及性寫作。但我並沒有要求任何性內容，而且這些受限的同人 CP 的拒絕邏輯也並不明顯。它不是對大熱門的同人 CP 進行全面禁止，也不是對 Disney 等形象敏感品牌的角色進行禁止（Disney 擁有漫威和星際大戰），也不是對現實人物同人 CP 進行禁止。（ChatGPT 的 BTS 故事有時會說明它們是虛構的描寫真實人物的故事，但並不一定。）被禁止的同人 CP 包括一個涉及養子（Marvel 的 Thor 和 Loki）和涉及未成年角色（《怪奇物語》的 Mike Wheeler 和 Will Byers），但它允許流行的《哈利波特》師生 CP，所以其中是否存在一個一致的規則還不清楚。有趣的是，在僅限付費的 ChatGPT 版本上似乎沒有這種情況。我寫了一封郵件給 OpenAI，詢問了這些似乎被禁止的 CP 名稱，發言人泰亞·克裏斯蒂安森（Taya Christianson）建議我在 GPT-4 版本的服務上嘗試，並表示我應該獲得“更好的結果”。確實，GPT-4 還沒有拒絕使用 GPT-3.5 似乎不喜歡的關鍵詞來提示的情況。GPT-4 對 Dean 和 Castiel 沒有任何問題。OpenAI 拒絕就這種情況進行公開討論，也不解釋為什麼這可能發生以及 GPT-3.5 中是否有刻意的軟性禁令。根據這篇文章中使用的“不允許”等詞語來看，這很明顯，我遇到了一個禁令，而不僅僅是某個主題對 ChatGPT 來說不熟悉而已。（我曾經給 ChatGPT 提供了它明顯不熟悉的混成詞，它還毫不猶豫地為我生成了有關原創角色的故事，這些角色有著難以理解的名字，比如“ Soapghost ”。）如果這是正確的，那麼現在尚不清楚這是否是 ChatGPT 的創造者特意設定的，還是系統內部的純粹自動化決策。它的審核工具會在提示可能生成違反指南的內容時發出警告，包括具有情色內容的內容——所以我可能無意間觸碰到了 GPT-3.5 語言模型最強烈地與性有關的組合。很多同人作家討厭生成式 AI 工具，但有些人已經湧入了像 Character.AI 這樣的聊天機器人，所以我懷疑很少有人會對 ChatGPT 對同人小說寫作施加障礙感到不滿。相反，這只是一個小而有趣的例子，展示了這些系統可能是黑盒子的本質。如果你將生成式 AI 視為一種創作工具，那麼這是一個很好的提醒，即這些系統在某些方面受到了我們人類心智無法預測的約束，而在你碰到這些約束之前，它們是幾乎不可預測的。
思考：AI 創作的邊界
這篇文章引發了對 AI 創作邊界的思考。在使用 ChatGPT 進行同人 CP 創作時，作者發現某些 CP 的組合被視為半禁止的提示，這引發了一個重要的問題：對 AI 系統創作應該設定哪些約束？這不僅僅是關於聊天機器人能否寫出同人小說的討論，更涉及到人工智慧如何在道德、法律和社會價值觀的框架下執行。
AI 系統可以被看作是人類創造的工具，但這些工具是否應該受到規範？如果我們允許 AI 系統寫出任何內容，這是否會違背道德和法律的準則？另一方面，如果我們對 AI 進行太多約束，是否會剝奪了它們的創作自由？這是一個值得深入探討的問題。
與此同時由於這些 AI 系統的黑盒性質，我們很難預測它們的反應。這可能導致一些看似矛盾的結果，比如 ChatGPT 在接受某些同人 CP 的要求時，卻拒絕了其他一些同樣受歡迎的 CP。這種不一致性可能是因為 ChatGPT 的訓練資料中存在一些偏差，或者是因為其內部的自動化決策機制所導致的。
這些問題也帶來了更大的問題：人類如何與 AI 系統互動？我們應該以什麼樣的態度面對它們？這些問題在不斷發展的 AI 技術和應用中具有重要的意義，我們應該一直關注和討論。
社論：平衡 AI 創作自由和道德責任
ChatGPT 對某些同人 CP 設限的情況引起了人們的關注，但該設限是否合理是值得探討的。我們應該意識到，AI 創作工具並非純粹的藝術家工具，它們是由人類設計和訓練的，同時受到規範和約束。
然而設定這些約束必須謹慎行事。我們應該尋求平衡，既保護創作者的自由，又確保 AI 系統不會生成具有仇恨、有害或性內容的作品。這需要人類設計者和監管者在制定指導方針時認真思考和討論，以確保 AI 系統的執行與社會價值觀相符。
此外對於這些 AI 系統的黑盒性質，我們需要更多的透明度和解釋。人們應該知道為什麼某些同人 CP 被禁止以及 ChatGPT 的決策機制背後的邏輯。僅僅依靠試誤的方式發現約束範圍，這對使用者來說是不公平的。
最後我們應該看到這個事件帶給我們的更多啟示。AI 系統的能力和約束需要被深入研究和理解。我們需要思考並討論人類與 AI 系統的關係以及 AI 在文化和創作領域中的作用。這將有助於我們更好地應對未來的挑戰。
編輯建議：
對於同人 CP 設限的問題，我們建議 OpenAI 和其他 AI 公司更加積極地與使用者和相關利益相關方進行溝通和協商。他們可以設立公開的反饋渠道，聽取使用者的意見和反饋，共同探討 AI 創作的邊界問題，並制定更公平和平衡的指引。
此外我們還鼓勵 ChatGPT 的使用者理解該系統約束的程度，並適應性地提供請求以獲得更符合其需求的回應。在使用這些 AI 工具時，使用者應該保持審慎，並根據自己的價值觀和需求做出適當的選擇。
延伸閱讀
- Anthropic 的 Claude 在 iOS 平臺上的推出獲得微弱反韇，與 ChatGPT 的首次亮相相比
- 開放 AI （OpenAI）的 ChatGPT 新聞發布：我們當前所知道的事情
- ChatGPT 在歐盟再次遭遇隱私投訴，「幻覺」問題再起風波
- 無線耳機升級帶來 ChatGPT 貼心助手 - Nothing 最新耳機震撼登場
- ChatGPT 不再需要帳戶 - 但有一個小陷阱
- AI 動力對話機器人 ChatGPT：一切你需要知道的
- 協變科技致力於打造 ChatGPT 機器人
- Glean 欲在企業市場擊敗 ChatGPT 的遊戲
- 你比 ChatGPT 更黑嗎？來測測看！
- Match Group 宣布與 OpenAI 達成交易，宣告稿由 ChatGPT 撰寫
