生成式人工智慧模型：發現問題並解決偏見的三個關鍵步驟
引言
最近，人工智慧（AI）在商業和科技領域引起了廣泛的關注。企業高層們紛紛投資並致力於發展 AI 技術，以提高產能和效能。然而在激烈的競爭中，許多 AI 模型都存在一個重要的問題：偏見。由於 AI 模型是由人類構建並由人類訓練的，完全消除偏見是不可能的。然而為了確保 AI 技術發揮最大的潛力，開發者應努力將真實世界的偏見最小化。真實世界中的偏見
在真實世界中，偏見普遍存在於各個行業。例如，我們可以想像一個基於 AI 模型的貸款資格評估系統。如果這個模型是根據個別銀行貸款主管的決策進行訓練的，那麼模型可能會複製這些貸款主管的偏見，例如基於種族、宗教或性別等因素而獨斷地拒絕貸款申請。類似的情況也可能在模擬醫生、律師、人力資源經理等專業人士思維過程的模型中出現。AI 規範需要時間
為理解決 AI 模型中的偏見問題，需要制定相應的規範和監管措施。然而 AI 的規範需要時間。開發者和企業不應等待偏見問題消失後才採用 AI 技術，而應該加快解決這個具有挑戰性的問題。鑑於每個 AI 模型都是由人類構建並使用人類收集的資料進行訓練的，完全消除偏見是不可能的，但開發者應該努力最小化在模型中複製真實世界偏見的程度。三個解決偏見問題的關鍵步驟
第一步：為您的生成式 AI 模型選擇合適的訓練方法
不同的訓練方法可能會導致不同程度的偏見。例如，某些健康科技模型依賴於大資料，透過使用個別患者的記錄或個別醫生的決策來訓練 AI 模型。然而對於特定行業（如醫療或人力資源）的模型，這種大資料方法可能會比必要的偏見更容易產生偏見。 對於行業特定的 AI 模型，一種替代方法是根據您行業的知識黃金標準進行模型訓練，以確保不傳遞偏見。例如，在醫學領域，可以使用同行評審的醫學文獻作為訓練模型的基礎。在法律領域，可以使用您所在國家或州的法律檔案作為基礎，而不是使用個別律師的資料。儘管這些文獻也可能包含偏見，但是考慮到每個醫生都努力掌握醫學文獻，每個律師都花費無數時間研究法律檔案，這些文獻可以作為構建更少偏見的 AI 的合理起點。第二步：平衡文獻與不斷變化的真實世界資料
在平衡來自文獻和真實世界資料時，需要仔細處理偏見的問題。在醫學領域，不同的種族、年齡、社經地位、地理位置和性別群體面臨不同程度的某些疾病風險。這些差異對於提供最佳護理是很重要的。然而在將這些差異納入模型之前，理解其在文獻中的根源是重要的。例如，理解到醫生是否因為對女性的偏見而更高比率地給予她們某些藥物，而這將增加她們患上某些疾病的風險，可以更好地解決這種偏見。 例如，在貸款資格評估的例子中，美國最大的貸款機構 Fannie Mae 和 Freddie Mac 去年發現，有色人種更有可能從自由職業經濟中獲得收入。這在很大程度上約束了他們獲得貸款的機會，因為這種收入被認為不穩定，儘管很多自由職業經濟工作者有著良好的租金支付記錄。為了修正這種偏見，Fannie Mae 決定將相關的租金支付歷史變數納入信貸評估決策中。開發者必須建立具有適應性的模型，能夠平衡官方以證據為基礎的行業文獻與不斷變化的真實世界資料。第三步：在生成式 AI 模型中加入透明度
要檢測和修正偏見，您需要理解模型是如何得出結論的。許多 AI 模型並不追溯到其源頭或解釋其輸出。這樣的模型通常會自信地生成令人驚訝的準確答案，但如果出現問題，幾乎不可能確保出了什麼問題以及如何在未來避免不準確或有偏見的輸出。考慮到我們正在建立一種將從工作到商業再到醫療保健領域的技術，人們能夠發現並修正其推理中的缺陷非常重要，僅僅知道它回答錯了是不夠的。只有這樣，我們才能負責任地根據此技術的輸出進行行動。 結論 生成式人工智慧模型在醫療、招聘、借貸、司法和其他行業中消除大量人類偏見，是 AI 為人類帶來的最有價值的特點之一。這只有在 AI 創業家間建立一種文化，努力尋找解決最小化人類偏見問題的有效方法時才能實現。開發者和企業應該遵循上述三個關鍵步驟，以確保生成式 AI 模型的成功和可信度，並最大程度地減少偏見的存在。Ethics,Development,ArtificialIntelligence-道德,有效,生成式人工智慧模型,企業,協助,方式
