研究揭示人類可以繼承人工智慧的偏見
背景
西班牙畢爾巴鄂的德烏斯託大學的心理學家 Lucía Vicente 和 Helena Matute 的最新研究提供了證據，證實人們可以在他們的決策中繼承人工智慧的偏見（即人工智慧輸出中的系統性錯誤）。人工智慧系統在能夠像人類一樣進行對話的成就之下，給這項技術帶來了高度可靠的形象。越來越多的專業領域正在實施基於人工智慧的工具，以支援專家的決策，以減少他們決策中的錯誤。然而這項技術並不沒有風險，這是由於人工智慧結果中的偏見。我們必須考慮到，用於訓練人工智慧模型的資料反映了過去人類的決策。如果這些資料隱藏著系統性錯誤的模式，人工智慧算法將學習並重現這些錯誤。事實上廣泛的證據表明，人工智慧系統確實會繼承和放大人類的偏見。
研究結果
Vicente 和 Matute 的研究的最重要的發現是，相反的效果也可能發生：人類可以繼承人工智慧的偏見。也就是說，不僅人工智慧會從人類資料中繼承其偏見，而且人們還可以從人工智慧中繼承這些偏見，有可能陷入一個危險的迴圈中。
研究人員進行了一系列的三個實驗，志願者進行了一個醫學診斷任務。其中一組受試者在此任務中受到了一個有偏見的人工智慧系統的幫助（該系統表現出一個系統性的錯誤），而對照組則沒有受到幫助。人工智慧、醫學診斷任務和疾病都是虛構的。整個設定是一個模擬，以避免對現實情況的干擾。那些受到有偏見的人工智慧系統幫助的受試者和人工智慧犯了同樣的錯誤，而對照組沒有犯這些錯誤。因此人工智慧的建議影響了受試者的決策。然而研究的最重要的發現是，在與人工智慧系統互動後，那些志願者在切換到不受此支援的診斷任務時繼續模仿它的系統性錯誤。換句話說，那些首先受到有偏見的人工智慧幫助的參與者在沒有這種支援的情況下復制了它的偏見，從而顯示出了一種繼承的偏見。而對照組的受試者，在任務開始時就沒有受到幫助，所以沒有觀察到這種效果。
這些結果表明，人工智慧模型提供的有偏訊息可能對人類的決策產生持久的負面影響。人工智慧偏見的繼承效應的發現，指出了有必要進一步進行心理學和跨學科研究，以探討人工智慧與人類的互動。此外還需要基於證據的監管來確保公平和道德的人工智慧，需考慮不僅人工智慧技術特徵，還有人工智慧和人類協作的心理因素。
結論
這項研究的結果提醒我們，人工智慧不僅可以受到人類的偏見影響，而且它的偏見可能會被人類繼承並傳遞下去。這一發現對於我們理解和應對人工智慧的影響至關重要。
作為社會大眾，我們應該關注這一問題，特別是當人工智慧越來越多地在各個領域應用時。我們需要確保人工智慧的使用是公平和道德的，而不會加劇社會中的不平等現象。同時政府和學術界也應該加固對人工智慧的監管，確保它的應用不會對人類的健康和福祉產生負面影響。
這項研究還提出了一個重要的問題，即我們應該如何確保人工智慧的可信度和公正性。對於訓練資料的選擇和處理以及人工智慧算法的設計和最佳化都需要進一步的探索和討論。同時我們還需要建立相應的法律和道德框架，以指導人工智慧的使用，確保它的執行符合社會的價值觀和倫理標準。
最後這項研究提醒我們，科學和技術的發展必須與人文價值和道德原則相結合。只有在這樣的基礎上，人工智慧才能為人類帶來實質的利益，並成為促進社會進步和幸福的工具。
延伸閱讀
- 在 AI 領域的女性：Tara Chklovski 正在教導下一代的 AI 創新者
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- 蘋果 AI 計劃揭祕：從財報中學到的三件事
- 特斯拉 CEO 為人工智慧新創公司籌集 60 億美元，TikTok 是否在逃避蘋果的傭金？
- Allozymes 以加速酶學應用於資料和人工智慧，籌集 1500 萬美元
- 在 TC 的 Techstars 調查內部以及人工智慧如何加速殘障科技
- Microsoft 禁止美國警察局使用企業人工智慧工具
- 你的 AI 原生新創公司並非一般的 SaaS 公司
- 美國 NASA 向私人太空公司訂購研究，探討火星任務支援角色
- Airbnb 釋出團體訂房功能，並整合人工智慧以提升客戶服務
