OpenAI 希望 GPT-4 解決內容審查困境
概述
OpenAI 相信其技術可以幫助解決科技業面臨的最棘手問題之一：大規模內容審查。OpenAI 聲稱，GPT-4 可以取代成千上萬名人工審查員，並且在準確度上幾乎不遜色，更具一致性。如果這是真的，科技業中最具毒性和精神壓力的任務可能會由機器外包。OpenAI 在一篇博文中宣稱，他們已經在使用 GPT-4 來制定和完善自己的內容政策、對內容進行標記和做出決策。OpenAI 的安全系統負責人 Lilian Weng 告訴 Semafor 說：“我希望看到更多人以這種方式運營他們的信任、安全和審查工作。這是我們利用人工智慧解決現實世界問題的一個真正的進步，這對社會有益。”OpenAI 相比傳統的內容審查方法提出了三個主要優勢。
一致性和新政策
首先 OpenAI 聲稱，人們對政策的解讀不一致，而機器在判斷上具有一致性。這些指南可能長達一本書般之長，並且不斷變化。而人類需要進行大量培訓才能學習和適應，OpenAI 認為大型語言模型可以立即實施新政策。
政策制定速度
其次 OpenAI 聲稱，GPT-4 能在數小時內幫助制定新政策。起草、標記、收集反饋和完善的過程通常需要數週甚至數個月的時間。
工人福利
第三，OpenAI 提到了經常接觸傷害性內容（如虐待兒童或酷刑的影片）的工人的福利問題。OpenAI 可能會幫助解決一個它自己技術加重的問題。在近二十年的現代社交媒體和更多年的線上社區之後，內容審查仍然是線上平臺面臨的最困難的挑戰之一。元宇宙（Meta）、Google（Google）和抖音（TikTok）都依賴於大量的審查員來審查令人恐怖並且通常具有創傷作用的內容。他們中的大多數位於低薪的發展中國家，他們在外包公司工作，並且由於得到的心理健康照顧非常有限，面臨精神壓力。
OpenAI 的困境
然而 OpenAI 本身嚴重依賴於點選工作者和人工工作。成千上萬的人，其中許多來自肯亞等非洲國家，為 OpenAI 進行內容標記和標籤。這些文字可能令人不安，這項工作壓力巨大，薪資也很低。儘管 OpenAI 將其方法吹捧為新穎和革命性，但多年來，人工智慧一直被用於內容審查。馬克·扎克伯格（Mark Zuckerberg）對理想的自動化系統的願景尚未完全實現，但元宇宙使用算法來審查絕大多數有害和非法內容。類似的系統也被 YouTube 和抖音等平臺使用，因此 OpenAI 的技術可能吸引那些沒有資源開發自己技術的小公司。
觀點和建議
內容審查難題
完美的大規模內容審查在現實中是不可能的。無論是人類還是機器都會出錯，儘管錯誤的百分比可能很低，仍然有數以百萬計的有害帖子滑過檢測，同時也有大量無害內容被隱藏或刪除。特別是對於並非非法的誤導性、錯誤和具有攻擊性的內容的處理，自動化系統面臨巨大挑戰。即使是人類專家也難以對這些帖子進行標記，機器也經常出錯。對於諷刺、以及記錄犯罪或警察暴力的圖片和影片也是如此。
OpenAI 的貢獻和困境
最終OpenAI 可能有助於解決一個它自己技術加劇的問題。生成式人工智慧（如 ChatGPT 或該公司的影象生成器 DALL-E）使得大規模製造和在社交媒體上傳播虛假訊息變得更加容易。儘管 OpenAI 承諾使 ChatGPT 更加真實，GPT-4 仍然會故意生成與新聞相關的虛假訊息和誤導性內容。
結論
無論是使用人工還是使用機器進行內容審查，都無法達到完美。然而整合人工智慧技術可能為解決內容審查困境提供有價值的方法。然而在追求技術解決方案的同時我們也必須意識到機器和人類在判斷上的局限性。為了審查內容時兼顧準確性和尊重使用者的自由，平臺和技術公司應該保持透明度，開放討論並與相關利益相關方進行合作。
延伸閱讀
- OpenAI 表示正在建立一個工具，以讓內容創作者選擇退出 AI 訓練
- 微軟和 OpenAI 啟動 200 萬美元基金以對抗選舉假影片
- Stack Overflow 與 OpenAI 簽約，提供資料支援其模型
- Quora CEO Adam D’Angelo 分享人工智慧和聊天機器人平臺 Poe，並解釋為何 OpenAI 並非競爭對手
- OpenAI 與英國《金融時報》達成戰略合作，包括內容使用
- OpenAI 旗下創投基金悄悄籌集 1500 萬美元
- 「不鏽鋼」幫助 OpenAI、Anthropic 等公司構建其 API 的 SDK
- OpenAI 計劃在東京設立新辦事處、特斯拉裁員數千人
- OpenAI 宣布東京辦公室成立，並推出日文最佳化的 GPT-4 模型
- OpenAI 擴大自定義模型訓練計劃
