科技產業中的倫理團隊缺乏資源和權力，其效力最多只能算是不穩定的
研究發現：倫理團隊面臨著資源不足及權力不足的困境
根據史丹佛大學傳播學系鄧麗君（Sanna Ali）與其他研究人員的研究發現，過去幾年來，人工智慧（AI）公司因生成歧視歷史上被邊緣化的群體的機器學習演算法而受到公開的譴責。為了消除這一批評，許多公司承諾確保產品公正、透明和可追溯，但這些承諾常常被批評為僅僅是「倫理洗白」（ethics washing），即嘴上說得好，但行動上卻不及時。 為了探討這個問題是否存在，鄧麗君與其他研究人員對科技行業中一些大公司的 AI 倫理工作者進行了訪談。這項研究專案發現，在科技行業的機構環境中，倫理倡議和幹預措施難以實施。具體而言，鄧麗君發現，這些團隊通常資源有限，得不到領導層的支援，也缺乏處理他們所識別問題的許可權。她表示：“若缺乏領導層的支援，個別工作者就必須運用說服技巧和人際策略才能取得一些進展。”研究結果是：他們在一些團隊中取得了成功，而在其他團隊中則不然，並且常常被要求在產品上市之前提供諮詢，而沒有足夠的權力要求進行重要的倫理修正。倫理與 AI 行業的機構環境
鄧麗君表示許多科技公司已經公布了有關負責任、透明和公正的原則宣告。他們還制定了評估演算法公正性的工具箱，舉辦了有關如何實施負責任 AI 的研討會，並聘請了被稱為「信任和安全」或「負責任 AI」等不同名稱的倫理團隊。在理論上，這些倫理團隊為識別並解決訓練資料問題、在機器學習模型訓練後實施各種公平性修正以及評估模型是否能夠滿足預期使用目的提供專業支援。 但鄧麗君指出，這一切看起來都很好，「但我們想要研究的是在實際執行這些倡議和幹預措施時所面臨的挑戰。」為了做到這一點，她訪談了 25 名科技行業員工，其中 21 名要麼當前從事或曾從事負責任 AI 倡議的工作，這些公司的員工從 6000 人到數十萬人不等。 以前的研究已經明確指出了科技行業的一些重要特徵，包括企業傾向於非正式和非等級體制、將快速產品創新視為最重要的關注點，並認為科技可以解決科技問題。基於這些背景，鄧麗君假設高層領導層的負責任 AI 原則很可能與橫向分散式的產品團隊脫離上下文。她將這種情況比作一個學校校長提出一項教育政策，但對於每位教師在課堂上的實際措施往往掌控不了。因此倫理團隊的角色就成了「倫理企業家」，他們必須向產品團隊推銷自己的服務。本質上，他們不得不依賴自身資源來與產品經理建立關係，希望在倫理審查產品時獲得他們的合作。倫理團隊缺乏支援、資源和權力
根據鄧麗君的訪談，她的關於機構環境及其對倫理團隊的預期影響的許多預測被證實是正確的。公司政策與分散式產品開發團隊的實際執行確實脫節，而倫理團隊必須與產品團隊建立關係，才能解決問題。鄧麗君發現，在科技行業中，負責任的 AI 政策的實施最多只能算是不一致的。事實上產品可能在沒有倫理團隊參與的情況下上市，原因有很多。有時產品團隊根本不想與倫理團隊合作，而倫理人員缺乏強制進行倫理審查的許可權。有時倫理團隊被邀請在產品上市日期接近時提供意見，這樣只能趕在上市之前實施一些必要的修正。有時產品團隊認為倫理工作者的公平目標會與其他重要目標（如使用者參與度）產生衝突。有時倫理團隊會要求管理層推遲產品上市，以便他們可以實施倫理修正，但負責人拒絕了這一要求。鄧麗君表示：“只需要一個比倫理工作者權威更高的人發聲。”她說：“但這並沒有發生，因為所有的激勵措施都是圍繞著即時上市產品而設計的。” 在某些情況下，公司已經實施了更正式的倫理審查流程：在新產品想法的開發早期，產品團隊完成一項影響評估，由倫理團隊進行審查。如果產品涉及敏感用途（例如保釋或審判），倫理團隊和產品團隊將共同努力確保該產品對某些人群是否存在不公平對待的潛力。如果確實存在這樣的潛力，那麼倫理團隊將從頭到尾參與產品的開發過程。鄧麗君表示：“在這種情況下，團隊可能擁有更多資源和許可權，以確保 AI 的負責任部署。”儘管如此鄧麗君表示這種更為官僚的方法面臨著成為例行公事的風險。她說：“產品團隊可能只會勾選他們願意採取的步驟，而忽視那些需要深思熟慮真正倫理問題的步驟。”由於負責任 AI 是一個相對新興的領域，她表示仍然需要進一步的深思熟慮。例如，人們仍在辯論公平意味著什麼，如何衡量以及什麼是足夠公平。然而倫理工作者的任務是在沒有支援、資源和權力的情況下應對這種不確保性，並且在追求快速創新的企業環境中工作是一個艱巨的任務。解決方案：激勵、官僚和權力
鄧麗君表示倫理工作者在與一個又一個產品團隊外交接觸中只能走得那麼遠。他們需要一些正式的權力要求解決問題，她說：“沒有與產品團隊平起平坐的倫理工作者可能被忽視。”如果倫理團隊將在科技行業這種橫向、非等級的世界中實施這種權力，就需要有正式的官僚機構結構，要求在產品開發過程的最初階段進行倫理審查。鄧麗君說：“官僚機構可以制定規則和要求，這樣倫理工作者就不需要向他人證實他們的工作的價值。”鄧麗君還表示產品團隊也需要有動機與倫理團隊合作。鄧麗君表示：“當前他們非常受到快速行動的刺激，而這可能與仔細、謹慎和負責地檢視技術影響的目標正好相反。”一些受訪者建議，在產品減少偏見或產品存在嚴重問題時，透過向團隊提供“倫理鼓舞獎金”的方式來獎勵他們的努力。鄧麗君說：“透過某種方式認可公司內部人員在倫理方面所持的立場，這是一件好事。”透過建立一些官僚機構，授予倫理團隊權力，並激勵其他員工與倫理團隊合作，科技公司的公平承諾就不是與實際工作脫節的了。然後，鄧麗君說：“真正的制度變革就有可能實現。”社論與建議
確保倫理影響：達成真正的制度變革
科技產業在人工智慧的發展中發揮了巨大的作用，但同時也對社會和道德問題產生了重大影響。宕機器學習和人工智慧的算法偏袒特定群體或設計受限於不公正的資料時，這就涉及到了倫理問題。因此確保倫理的影響應該成為科技公司的首要任務。 鄧麗君的研究發現顯示，當前的倫理團隊在面對資源不足和權力不足的挑戰時效力有限。然而透過一些解決方案，我們可以實現真正的制度變革，確保倫理工作者所做的努力能夠得到有效支援，並在產品開發過程中發揮積極的作用。 首先科技公司應該提供足夠的資源給予倫理團隊。這包括人力、資金和技術支援，以確保倫理工作者能夠有效執行其角色和責任。 其次領導層應該給予倫理團隊足夠的權力和支援，以掌握並解決倫理問題。這包括將倫理團隊的意見納入產品開發過程的早期階段，並確保倫理修正在產品上市之前被有效實施。 第三，科技公司應該建立官僚機構結構，要求在產品開發過程的一開始進行倫理審查。這樣可以確保倫理工作者不再需要與產品團隊一一協商，而是直接憑藉正式的權力要求解決問題。 最後科技公司應該透過激勵措施來確保產品團隊與倫理團隊合作。這可以透過給予「倫理鼓舞獎金」等獎勵，以激勵產品團隊在產品開發過程中積極關注倫理問題。 透過這些措施，我們可以在科技產業中確保倫理的影響得以充分發揮，從而實現真正的制度變革。這不僅對公司自身的形象和信譽有益，也對整個社會和科技發展有著深遠的影響。因此科技公司應該認真對待倫理問題，為倫理工作者提供足夠的支援，並確保倫理的價值在產品開發中得以充分體現。Technologyindustryethicsteamresources-科技產業,倫理團隊,資源不足,權力不足,效力不一,研究發現
