監管 AI 偏見：AI 發展面對的挑戰
引言
強大的生成式 AI 工具如 ChatGPT 在當今被形容為這一代人的“iPhone 時刻”。根據報導，OpenAI 在 3 月份的官網上提供了 ChatGPT 的試用，每月有超過 8.47 億的獨立存取者。這一爆炸式的受歡迎程度引起了對自生成 AI 的高度關注，許多國家迅速採取行動以保護消費者。4 月份，義大利成為西方國家中首個出於隱私考慮而封鎖 ChatGPT 的國家，但四周後又解除了禁令。其他 G7 國家正在考慮協調監管措施。英國將於秋季舉辦首次全球人工智慧監管峰會，英國首相喬治·蘇尼克希望英國能夠推動制定 AI 的“行為準則”。峰會的陳述目標是確保 AI 的“安全和負責任地發展和應用”。監管無疑具有良好的意圖，顯然許多國家對自生成 AI 帶來的風險心知肚明。然而所有這些有關安全性的討論可以說掩蓋了一個更深層次的問題：AI 偏見。
AI 偏見的解釋
雖然“AI 偏見”這個詞聽起來有些模糊，但可以很容易地給出定義。AI 偏見，又稱為“算法偏見”，是指人類偏見悄悄滲入 AI 模型訓練的資料集中。這些資料和隨之產生的 AI 模型會反映出樣本偏見、確認偏見和人類偏見（如性別、年齡、國籍、種族等），並對 AI 的任何輸出的獨立性和準確性造成干擾。隨著自生成 AI 在社會中日益成熟，對於處理 AI 偏見的迫切性更為壓倒性。這項技術越來越多地用於影響面部識別、信用評分和犯罪風險評估等任務。顯然，在涉及如此敏感的結果時，準確性至關重要。
AI 偏見的實例
已經觀察到許多 AI 偏見的案例。當 OpenAI 的 Dall-E 2 被要求建立一張財富 500 強科技公司創始人的影象時，它提供的照片大多是白人和男性。當要求 ChatGPT 回答著名的藍調歌手貝西·史密斯是否影響了福音歌手瑪哈莉亞·傑克森時，它無法在沒有進一步提示的情況下回答這個問題，引發了對它對有色人種在流行文化中的認知的懷疑。一項在 2021 年進行的關於抵押貸款的研究發現，用於確保批準或拒絕的 AI 模型並不為少數族裔申請人提供可靠的貸款建議。這些案例證實了 AI 偏見可能會對使用者的種族和性別進行誤導，這對使用者可能產生嚴重的後果。
慎重處理資料
AI 產生冒犯結果的原因可以歸咎於 AI 的學習方式和構建它的資料集。如果資料對某個特定人口群體存在過多或不足的代表性，那麼 AI 將重複這種偏見，產生更多具有偏見的資料。因此重要的是，政府強制實施的任何監管不應將 AI 視為內在的危險。相反，它所擁有的危險主要是由它依賴的資料產生的。如果企業想要充分利用 AI 的潛力，他們必須確保對 AI 所依賴的資料是可靠和包容的。為此，組織應該優先提供對組織的資料進行共享的途徑，包括內部和外部的所有利益相關者。現代資料庫在這方面發揮著重要作用，它們可以管理大量的使用者資料，包括結構化和半結構化資料，並具有快速發現、反應、遮掩和重新整理資料的能力。對大資料集的更大可見性和可管理性意味著偏見資料較少有機會不被察覺地混入進來。
更好的資料管理
此外組織必須培訓資料科學家更好地管理資料，並實施收集和清理資料的最佳實踐。更進一步地說，資料訓練算法必須被公開並提供給盡可能多的資料科學家，以確保更多元化的人群對其進行抽樣並指出其中的潛在偏見。類似現代軟體經常是“開源”的方式，適當的資料也應該如此。組織必須不斷保持警覺，並意識到這不是一次性的操作，而是在產品或服務投入生產之前，需要不斷解決的問題。AI 偏見的持續挑戰要求企業借鑒其他行業使用的技術，以確保普遍最佳實踐。食品和飲料行業中借來的“盲品”測試，來自網路安全領域的紅隊/藍隊戰術，或核能中使用的可追溯性概念，這些都可以為企業在應對 AI 偏見方面提供寶貴的框架。這項工作將幫助企業理解 AI 模型，評估可能的未來結果範圍，並對這些複雜且不斷演變的系統產生足夠的信任。
現在是監管 AI 的時候嗎？
在過去幾十年中，談論“監管 AI”可能是本末倒置的。如何監管一個對社會影響不明確的事物？一個世紀前，沒人想到要監管吸煙，因為當時人們不知道它的危害。同樣，AI 也不是一個威脅需要被嚴格監管的事物，人們對它的危險感只是停留在毫無根據的科幻電影中。然而生成式 AI 和 ChatGPT 的進展以及人工通用智慧的發展改變了這一切。一些國家政府似乎正在合作監管 AI，然而矛盾的是，其他國家則一直在爭奪成為 AI 監管的領頭企業。在這一喧囂中，至關重要的是不要對 AI 偏見過度政治化，而是將其視為超越政治立場的社會問題。在全球範圍內，政府與資料科學家、企業和學術界必須團結起來解決這個問題。
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
- Rad AI 完成由 Khosla Ventures 領投的 5 千萬美元 B 輪融資
