紐約市的反偏見法規對於聘用演算法開始實施

紐約市對聘用演算法的反偏見法規正式生效

Kyle Wiggers

遲了數月之後，紐約市今天開始實施一項新法規，要求使用聘用演算法的僱主提交這些演算法進行獨立審查，並公開結果。這是該國首部類似的立法，紐約市地方法令 144 號，還要求使用這些演算法的公司向員工或求職者進行披露。至少，公司必須公開報告所使用的演算法以及不同種族、族裔和性別的候選人從該演算法中可能獲得的「平均分數」，以分數、分類或推薦形式呈現。該報告還必須列出演算法的「影響比率」，法律將其定義為特定類別（例如黑人男性候選人）中所有人的平均由演算法給出的分數，除以最高分類別的人的平均分數。發現不符合法規的公司將面臨 375 美元的罰款，第二次違規罰款 1350 美元，第三次及其後的違規罰款 1500 美元。只要一家公司在違反法律的情況下使用演算法的任何一天，都將構成一個單獨的違規行為，同樣也違反了充分披露的要求。重要的是，144 號地方法令的範圍，經紐約市議會批準，由紐約市消費者與工人保護部門執行，延伸至紐約市以外的員工。只要一個人在該市工作或申請工作，他們就有資格在新法律下受到保護。許多人認為這一舉措來得太晚了。應聘科技供應商 Applied 的執行長 Khyati Sundaram 指出，特別是招聘人工智慧有可能加劇現有的偏見，使就業和薪酬差距加劇。「僱主應該避免使用人工智慧獨立評分或排名候選人，」Sundaram 在一封電子郵件中告訴 TechCrunch。「人工智慧尚不能也不應該被信任為可以獨立做出這些決策，而不會反映和延續已經存在於工作世界中的偏見。」估算杯視覺專有技術的執行長也贊同這一觀點。他告訴紐約時報：「招聘 AI 對於招聘科技廠商和公共管理者來說代表了性別和種族不平等的升華。」人們並不需要遠距離尋找偏見滲入招聘演算法的證據。亞馬遜在 2018 年放棄了一個招聘引擎，因為該引擎被發現對女性候選人進行歧視。一項 2019 年的學術研究顯示招聘中存在著對黑人的偏見。此外演算法還被發現根據應聘者是否配戴眼鏡或頭巾來給予不同的評分，在擁有黑人名字、提到女子學院或以特定檔案型別提交簡歷的申請者中處於不利地位；還會對因生理殘疾而無法與鍵盤互動的人造成不利影響。偏見可能深入人心。根據劍橋大學於 2022 年 10 月的一項研究，宣稱提供客觀、功績劃分的 AI 公司是虛假的，因為理想員工的性別和種族受到他們的性別和種族的歷史影響。但這些風險並未減緩 AI 在聘用中的應用。根據人力資源管理協會在 2022 年 2 月的一項調查，近四分之一的組織已經利用人工智慧支援其招聘流程。在擁有 5000 名或以上員工的僱主中，這一比例更高達 42%。那麼，僱主到底使用了哪些形式的演算法呢？這很難說。一些比較常見的形式包括根據關鍵詞對簡歷和求職信進行分類的文字分析器以及進行線上面試以篩選具有特定特質的申請者的聊天機器人和面試軟體，這些軟體設計用於透過語言和面部表情預測候選人的解決問題能力、適應能力和「文化契合度」。事實上招聘和聘用演算法的範圍非常廣泛，以至於一些組織認為 144 號地方法令不夠遠。美國公民自由聯盟的紐約分部（NYCLU）稱該法律「遠未能提供足夠的保護」，該組織高級隱私和技術策略師丹尼爾·施瓦茨在一份政策備忘錄中指出，144 號地方法令依其文字所解讀，只能覆蓋一部分招聘演算法，例如排除從影片和音訊面試中轉錄文字的工具。（鑒於語音識別工具存在已知的偏見問題，這顯然是問題所在。）施瓦茨寫道：「建議的規定[必須加固]確保充分覆蓋[招聘演算法]，擴大偏見審計要求，並提供透明度和有意義的事前通知，以確保[演算法]不能繞過紐約市對歧視的法律。人們應該不需擔心受到歧視性演算法篩選。」與此同時該行業正在進行自我監管的初步努力。2021 年 12 月，擁有 CVS Health、德勤、通用汽車、Humana、IBM、Mastercard、Meta、Nike 和沃爾瑪等成員的資料與信任聯盟（Data & Trust Alliance）成立，旨在開發評估和評分系統，以檢測和打擊演算法偏見，特別是在聘用方面的偏見。不出意外，Sundaram 支援這一方法。他說：「與其希望監管者趕上並遏制最壞情況下的招聘 AI，僱主應該警惕，小心使用招聘流程中的 AI。AI 的發展速度比法律的制定速度更快。由於這一原因，最終透過的法律可能會極其複雜。這將使公司存在誤解或忽視各種法律細節的風險，從而導致邊緣化候選人繼續被忽視。」當然許多人會認為，讓公司為其使用或開發的 AI 產品開發認證系統的想法從一開始就存在問題。儘管在某些領域存在缺陷，但根據批評者的說法，144 號地方法令確實要求由未參與使用、開發或分發正在測試的演算法的獨立實體來進行審計，並且這些實體與提交演算法進行測試的公司沒有關係。

評論和建議

演算法偏見的挑戰

如今聘用演算法在人力資源領域越來越常見，但這些演算法並非沒有挑戰。許多研究已經證實，聘用演算法可能帶有各種偏見，尤其是對種族和性別的偏見。例如，亞馬遜的招聘引擎曾被發現對女性候選人進行歧視。這些偏見不僅損害了個人的就業機會，還加劇了就業和薪酬差距。

紐約市的反偏見法規

紐約市地方法 144 號對聘用演算法進行了重要的監管。該法案要求使用聘用演算法的公司進行獨立審查並公開結果，同時要求公司對員工或求職者進行相應的披露。這樣的透明度和監管可以減少演算法偏見的風險，並保護候選人免受歧視。

後續行動

然而一些組織認為，144 號地方法令對聘用演算法的監管規範還不夠。他們主張應擴大監管範圍，加固偏見審計要求並提供更多的透明度和通知。此外一些公司正在進行自我監管的努力，以開發評估和打擊演算法偏見的解決方案。這些努力對於確保聘用演算法的公平性和透明度至關重要。

建議

對於使用聘用演算法的公司，它們應該非常謹慎地使用和評估這些演算法。僱主應該避免完全依賴演算法做出決策，而是將其視為輔助工具。此外公司應該主動關注演算法中的潛在偏見，並採取措施來最小化這些偏見的影響。最重要的是，公司應該與獨立機構合作，實施演算法審查，並公開審查結果，以增強透明度和公平性。

對於立法者和監管機構，他們應該繼續努力制定更全面的法規和準則，以確保使用聘用演算法的公司遵守公平、透明和無偏見的原則。同時也需要與行業內的利益相關者密切合作，共同努力解決演算法偏見的問題。

NewYorkCityAnti-BiasRegulationsonAlgorithmHiringImplementation-紐約市,反偏見法規,聘用演算法,實施

延伸閱讀

• 全天候視訊門戶讓紐約市與都柏林的人們進行即時互動
• 約比（Joby）與 Volocopter 在紐約市進行電動空中計程車飛行
• 西班牙受歐盟壓力，提前六個月實施 MiCA 加密貨幣規則
• Uber、DoorDash 和 Grubhub 敗訴，無法阻止紐約市為送貨員制定新的工資規定
• Uber、DoorDash 和 Grubhub 敗訴，無法阻止紐約市為外送工人制定的新工資規定
• 紐約市送貨員最低時薪維持 18 美元，法官支援判決
• 《漫威蜘蛛人 2》中紐約市的擴張全貌首度曝光！
• 紐約市開始執行人工智慧招聘法，企業必須知道的三件事
• 發掘 AI 靈魂：在紐約市天臺日落時刻尋找答案
• 微軟將在 9 月 21 日在紐約市舉辦「特別活動」