OpenAI 的 ChatGPT 影象生成器：從吉卜力風到爭議性的內容調整
本週，OpenAI 推出了 ChatGPT 的新影象生成器，迅速因其能夠創作出吉卜力風格的影象而在網路上瘋傳。這些影象以其柔和的色彩和獨特的風格吸引了無數使用者的目光。然而 ChatGPT 的升級不僅限於這些令人驚豔的插圖，GPT-4o 的原生影象生成器還大幅提升了圖片編輯、文字渲染和空間表現的能力。然而本週 OpenAI 最引人注目的變化是其內容審核政策的調整，現在允許 ChatGPT 在使用者要求下生成描繪公共人物、仇恨符號和種族特徵的影象。這些型別的提示在過去曾被 OpenAI 拒絕，因為它們被認為太過爭議性或有害性。
內容審核政策的演變
根據 OpenAI 的模型行為主管喬安妮·張（Joanne Jang）在週四發布的部落格文章中表示 OpenAI 已從在敏感領域的全面拒絕轉向更精確的策略，專注於防止現實世界的傷害。「我們的目標是擁抱謙遜：承認我們不知道多少，並在學習中適應自己。」張說。這些調整似乎是 OpenAI 更大計劃的一部分，旨在有效地「解除」ChatGPT 的約束。OpenAI 在二月份宣布，開始改變其訓練 AI 模型的方式，最終目標是讓 ChatGPT 能夠處理更多請求，提供多元的觀點，並減少聊機器人拒絕處理的話題。
公共人物和仇恨符號的生成
在新的政策下，ChatGPT 現在可以生成和修改唐納德·特朗普、伊隆·馬斯克等公共人物的影象，這些影象過去是不被允許的。張表示 OpenAI 不想成為地位的仲裁者，決定誰應該或不應該被 ChatGPT 生成。相反，公司正在為使用者提供一個選擇退出選項，如果他們不希望 ChatGPT 描繪自己。在週二發布的一份白皮書中，OpenAI 還表示將允許 ChatGPT 使用者在教育或中立的語境中「生成仇恨符號」，如卐字，只要它們不「明顯讚揚或支援極端主義議程」。
對「冒犯性」內容的重新定義
此外 OpenAI 正在改變其對「冒犯性」內容的定義。張說，ChatGPT 過去拒絕處理與物理特徵有關的請求，例如「讓這個人的眼睛看起來更亞洲」或「讓這個人更胖」。在 TechCrunch 的測試中，我們發現 ChatGPT 的新影象生成器可以滿足這些型別的請求。此外 ChatGPT 現在可以模仿創意工作室的風格，如皮克斯或吉卜力，但仍然約束模仿個別在世藝術家的風格。正如 TechCrunch 之前所指出的，這可能會重新引發關於在 AI 訓練資料集中使用受版權保護作品的合理使用辯論。
安全措施與爭議
值得注意的是，OpenAI 並未完全開放濫用的閘門。根據 GPT-4o 的白皮書，GPT-4o 的原生影象生成器仍然拒絕許多敏感的查詢，事實上它在生成兒童影象方面比 ChatGPT 之前的 AI 影象生成器 DALL-E 3 有更多的保護措施。但在其他領域，OpenAI 正在放鬆其防護欄，這是在多年來對矽谷公司所謂的 AI「審查」的保守批評聲音之後。Google 之前因其 Gemini 的 AI 影象生成器而受到反對，該生成器為「美國開國元勳」和「二戰德國士兵」等查詢建立了多種族的影象，這顯然是不準確的。現在圍繞 AI 內容審核的文化戰爭可能正達到高潮。本月早些時候，共和黨眾議員吉姆·喬丹向 OpenAI、Google 和其他科技巨頭傳送了有關可能與拜登政府合謀審查 AI 生成內容的問題。在之前對 TechCrunch 的宣告中，OpenAI 拒絕了其內容審核變化是出於政治動機的想法。相反，公司表示這一轉變反映了「長期以來對給予使用者更多控制的信念」，而 OpenAI 的技術現在才足夠好，可以處理敏感的主題。無論其動機如何，現在正是 OpenAI 改變其內容審核政策的好時機，考慮到在特朗普政府下可能面臨的監管審查。像 Meta 和 X 這樣的矽谷巨頭也採用了類似的政策，允許其平臺上出現更多有爭議的話題。雖然 OpenAI 的新影象生成器當前只創造了一些病毒式的吉卜力迷因，但這些政策的更廣泛影響尚不明確。ChatGPT 最近的變化可能會受到特朗普政府的歡迎，但讓 AI 聊機器人回答敏感問題可能很快就會讓 OpenAI 陷入困境。
結論
OpenAI 的病毒式吉卜力時刻突顯了 AI 版權問題，而 ChatGPT 的影象生成功能的升級則引發了更廣泛的討論。從創造美麗的吉卜力風格影象到調整內容審核政策，OpenAI 正在走一條充滿挑戰和爭議的道路。隨著技術的進步和社會對 AI 應用的期望不斷變化，OpenAI 需要在創新與責任之間找到平衡。這不僅是技術的挑戰，更是道德和社會的考驗。未來，OpenAI 如何應對這些挑戰，將對 AI 行業的發展產生深遠影響。
