揭示 AI 偏見：《你比 ChatGPT 黑》
AI 文化偏見的遊戲化應對
Creative ad agency McKinney 開發了一款名為「你比 ChatGPT 黑」的測驗遊戲，旨在揭露 AI 的偏見。這個遊戲測試一個人對於黑人文化的理解，並將其與 ChatGPT 對黑人社區的知識相比較。遊戲中提出問題，例如「當有人說‘對他們別難為他們’是什麼意思？」和「如果有人邀請你參加一個活動，你的回應是什麼？」作者表示在進行了這個測試後，ChatGPT 和我都對第一個問題做出了正確的回答——當有人說「對他們別難為他們」時，通常意思是對他們別太嚴苛。但是當涉及到第二個問題時，ChatGPT 失敗了。當有人邀請你參加一個活動時，在黑人社區的刻板印象式回應是「還有誰會在那裡？」但 ChatGPT 的回答卻是「謝謝你的邀請！」這位遊戲的創作者 Meghan Woods 在接受 TechCrunch 存取時表示這非常有趣，因為它被宣傳為一個懂得一切的機器人，但顯然在一些與白人無關的事情上並不全然理解。AI 和黑人文化間的盲點
Woods 指出，ChatGPT 的盲點似乎源於許多黑人文化元素線上上並沒有必然的記錄；它們更多是透過代代相傳或口頭傳遞。這意味著其算法在從網際網路上捕獲關於黑人的訊息時會錯過許多微妙之處。「這些盲點可能相當令人心煩」Woods 說道。「這是非常危險的。」舉例來說當 ChatGPT 對黑人社區中的某些刻板印象式常見事物給出錯誤答案時，這體現了 AI 的偏見。AI 可能在某些方面取得了成功，但在該領域的女性、黑人和有色人種建造者和創始人長期以來一直在談論被忽視或被擠到一邊。結果是，AI 創新是在沒有考慮適應不同文化所需的文化洞察和複雜性的情況下進行的。在其最極端的情況下，多樣性的缺乏意味著開發出使用無法檢測黑皮膚的 AI 的汽車，導致事故數量不斷增加。在另一方面，這僅僅意味著一個聊天機器人無法區分一首惠特尼·休斯頓的歌曲和另一首。Destined AI 公司的創始人 Gerald Carter 表示 McKinney 的測驗很好地利用遊戲化方式，引起了對這些 AI 缺陷的更多關注。「透過在各個層面納入多樣化觀點，許多微妙之處可以得到解決」他說道。「為了使 AI 發揮其全部潛力，它需要對每個人在任何地方都起作用。」未來之路
ChatGPT 的母公司 OpenAI 因其董事會缺乏多樣性而受到批評。Woods 表示似乎 ChatGPT 也沒有從這個測驗中學到東西，因為它在許多情況下仍然經常給出相同的錯誤答案。「我們的假設是，它永遠無法完全理解我們向它提出的許多問題。」Carter 表示 ChatGPT 透過更好的訊息來源和更具包容性的資料收集，可以更好地適應更多的文化。一種更即時的方法是監控 AI 模型的變化，並使用著眼於文化視角的工具進行改進。儘管大公司正在努力使 AI 對每個人都有用，但該領域內的黑人和有色人種建造者已經採取行動，以確保下一波 AI 的多樣性。例如，Carter 透過與公司合作，幫助它們獲取更具包容性的資料。Erin Reddick 建立了名為 ChatBlackGPT（與 OpenAI 無關）的產品，以更深入地理解黑人文化和歷史；而 Tamar Huggins 為她的 ChatGPT 替代方案 Spark Plug 籌集了 140 萬美元，該方案將經典文學作品翻譯成非裔美國方言。Woods 指出，要使 AI 更具包容性，還需要積極進行招聘、留任，並確保人們能夠參與到表決中。她表示「我知道這聽起來老生常談，但我確實認為這可能開始產生影響。」結語
這款遊戲以詼諧的方式突出了 AI 對於黑人文化的盲點，凸顯了 AI 在跨文化理解上的困難。AI 的發展需要考慮到各種文化的多樣性，以確保其應用能夠全面而準確地服務每一個人。在 AI 和技術發展的同時也需要尊重和包容不同文化的特點，這也是未來發展的必然趨勢。Darkness-黑色比較測試,ChatGPT,比較,測試
