人工智慧對內容審核的優勢與約束
背景
在網路時代，內容審核師是最不為人所知的工作之一。他們以數千計的數量在大型社交網路（如 Facebook）上被委託檢查海量的使用者生成內容，並將違規內容從平臺中刪除。這些內容通常包含對人性的最壞極端的詳細描述以及兒童性虐待等罪行和恐怖行為的影象或影片證據。擔任內容審核工作的人員報告說，由於所接觸到的內容，他們面臨創傷後壓力症候群（PTSD）、焦慮和其他心理疾病。OpenAI 提出的解決方案
OpenAI 最近發表了一篇部落格文章，聲稱其最新的大型語言模型（LLM）GPT-4 在內容審核上表現超過了經過少量培訓的人類審核員，雖然對比經過高度培訓和有經驗的人類審核員仍然有所不足。OpenAI 提出了一個三步訓練框架，以便讓 GPT-4 根據組織的特定政策進行內容審核。該框架包括起草內容政策、標記人類審核員選定的“黃金資料集”以及人工監督 GPT-4 的標記結果。OpenAI 聲稱，這種迭代過程最終可以生成更精煉的內容政策，並將其轉化為分類器，以便在平臺上進行大規模內容審核。優勢與約束
這種人工智慧內容審核的方法相比傳統的方法具有一些優勢。首先它能夠產生更一致的標籤，消除了不同審核員根據同一政策對內容進行不同解讀的問題。其次這種方法能夠更快地更新內容政策以應對新的違規內容，形成更快的反饋迴圈。最重要的是，這種方法能夠減輕人類內容審核員的心理負擔，將大部分審核工作交給人工智慧進行，只在必要時協助培訓並對其進行診斷。 然而這種人工智慧內容審核方法也存在一些約束。首先即使 GPT-4 在內容審核上表現優於少量培訓的人類審核員，但仍無法與經過高度培訓和有經驗的人類審核員相提並論。其次由於語言模型可能存在偏見和不公平的問題，人工智慧審核系統可能會不當地將合理內容標記為違規，或將違規內容誤標為合理。這需要人工監督者對 GPT-4 的標記進行審查和修正。此外這種人工智慧內容審核方法也存在著技術漏洞和可能的濫用風險，需要嚴密監控和制定相應的法規和政策。道德考量
OpenAI 提出的 GPT-4 用於內容審核的方法引起了一些道德考慮。作為一家本身使用人工智慧系統進行內容審核的機構，OpenAI 報導稱使用合同工人從事這項工作，這些工人在肯亞的承包商和分包商的安排下，閱讀內容並按照內容的傷害嚴重程度進行標記，而他們的工資卻非常低廉。OpenAI 的自動化內容審核推動可能某種程度上是為了彌補或預防像它曾經遭受的傷害。因此這種人工智慧內容審核方法的實施需要考慮到工人權益和福利，以確保他們的工作條件和報酬合理。結論與建議
結合人工智慧技術進行內容審核是一個具有潛力的解決方案，可以幫助減輕人類審核員的心理壓力，提高內容審核的效率和一致性。然而我們必須謹慎應對，避免對人工智慧的過度依賴和錯誤使用，同時確保工人的權益和福利得到保護。下面是一些建議：1. 建立倫理指南
制定專門針對人工智慧內容審核的倫理指南，明確界定可接受的內容標準和標記標準。這些指南應該考慮到各種文化和價值觀的差異，並尊重言論自由和對多元觀點的容忍。2. 建立監管機制
建立監管機構或政府部門，負責監督人工智慧內容審核系統的執行。監管機構應該定期審查和評估系統的效能、公正性和對工人的影響，並制定相應的執行措施和約束。3. 提供培訓和支援
提供適當的培訓和支援給人工智慧內容審核系統的監督者和審核員，使他們能夠理解系統的工作原理、能力和局限性，並掌握修正標記的技巧。4. 保護工人權益
確保人工智慧內容審核工人的工資和工作條件合理，不應剝削其勞動價值。同時提供專業心理輔導和支援，以幫助工人應對與工作相關的壓力和心理創傷。5. 進一步研究與討論
加固對人工智慧內容審核的研究和討論，深入瞭解其技術、倫理和社會影響。這些研究應該包括對不同人工智慧系統的比較評估，並考慮到各種場景和應用。 在實現人工智慧內容審核的發展中，我們應該找到平衡，將技術的優勢發揮到最大程度，同時保護工人權益和社會價值觀。這需要政府、技術公司和學術界的合作，透過制定合適的法規和指南，推動人工智慧內容審核的可持續發展。AIContentModeration-OpenAI,GPT-4,技術,人工內容審核,壓力
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- OpenAI 表示正在建立一個工具，以讓內容創作者選擇退出 AI 訓練
- 微軟和 OpenAI 啟動 200 萬美元基金以對抗選舉假影片
- Alphabet 旗下 Intrinsic 將 Nvidia 技術融入機器人平臺
- Stack Overflow 與 OpenAI 簽約，提供資料支援其模型
- Quora CEO Adam D’Angelo 分享人工智慧和聊天機器人平臺 Poe，並解釋為何 OpenAI 並非競爭對手
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- 蘋果 AI 計劃揭祕：從財報中學到的三件事
- 科技新聞: 空間站迅速反應的新技術？
