紐約市反偏見法案生效：AI 招聘算法要接受獨立審核
背景
紐約市首例針對 AI 招聘演算法的反偏見法案──紐約市地方法 144 號在經過數個月的延遲後終於正式生效。根據這項法案，使用演算法進行招聘、僱用或晉升的僱主必須提交這些演算法進行獨立審核，並公開審核結果。這項法案同時規定，使用這類演算法的公司必須向員工或求職者提供相關資訊。至少，公司需要公開演算法的清單以及不同種族、民族和性別的求職者可能從演算法中獲得的“平均分數”。此外法案還需要列出算法的“影響比率”，即法律所定義的特定型別中的所有人（例如黑人男性候選人）的平均分數與最高分類別中的人的平均分數之比。如果被發現未遵守法案的公司將面對相應的罰款，第一次違反罰款 375 美元，第二次違反罰款 1350 美元，第三次及以上違反罰款 1500 美元。如果公司在未遵守法律的情況下使用演算法的天數一天算一次違反，未能提供足夠的訊息也算一次違反。
反偏見法案的重要性
這項當前全國首例的法案，被許多人視為已經過於遲來。招聘技術供應商 Applied 的執行長 Khyati Sundaram 指出，尤其是招聘 AI 有可能加劇現有的偏見問題，使就業和薪資差距加劇。他在電子郵件中對 TechCrunch 表示：“僱主應該避免使用 AI 獨立評分或排名候選人。我們還沒有到可以或應該相信算法能夠獨立做出這些決定的地步，而不會反映和延續已經存在於工作世界中的偏見。”
事實上不遠處就有偏見滲透到招聘演算法中的證據。2018 年，亞馬遜放棄了一個招聘引擎，因為發現它對女性候選人進行了歧視。一項 2019 年的學術研究顯示招聘中存在著對黑人的偏見。此外演算法還會根據候選人是否戴眼鏡或頭巾、提到女子學院或使用特定檔案型別提交簡歷等標準給候選人分配不同的分數，並對那些由於身體殘疾無法與鍵盤互動的人不利。這些偏見可能非常深入。劍橋大學在 2022 年 10 月的一項研究中暗示，聲稱提供客觀、功績至上的評估的 AI 公司是虛偽的，認為去除性別和種族偏見的反偏見措施是無效的，因為理想的員工受到其性別和種族的歷史影響。
偏見的廣泛存在
然而這些風險並未減緩 AI 招聘算法的應用。根據人力資源管理學會（SHRM）2022 年 2 月的一項調查，近四分之一的組織已經利用 AI 來支援其招聘流程，而在擁有 5000 名或以上員工的僱主中，這一比例更高達 42%。具體使用的招聘和招聘算法形式各異。一些常見的算法形式包括基於關鍵詞對簡歷和求職信進行排序的文字分析器、用於篩選具有特定特徵的申請人的聊天機器人以及根據語音和面部表情預測候選人解決問題能力、能力和“文化適配性”的面試軟體。招聘和招聘算法的範圍如此廣泛，以至於一些組織認為紐約市地方法 144 號不夠完善。紐約州美國公民自由聯盟（NYCLU）認為這項法律在保護候選人和工人方面“遠遠不足”。NYCLU 的高級隱私和技術策略師 Daniel Schwarz 在一份政策備忘錄中指出，紐約市地方法 144 號可能只涵蓋招聘算法的一部分，例如排除了將影片和音訊面試中的文字轉錄工具。考慮到語音識別工具存在廣為人知的偏見問題，這顯然是有問題的。Schwarz 寫道：“建議的規定應確保廣泛覆蓋招聘算法，擴大偏見審核的要求，並提供透明度和有意義的通知，以確保演算法不會繞過紐約市反歧視法律的規定執行。候選人和工人不應該擔心被具有歧視性的算法篩選。”
自我監管的努力
與此同時行業也正開始進行自我監管的初步工作。2021 年 12 月，資料與信任聯盟（Data & Trust Alliance）成立，旨在開發一個評估和評分系統，用於檢測和打擊演算法偏見，尤其是招聘中的偏見。該聯盟最初的成員包括 CVS 健康公司、德勤、通用汽車、Humana 公司、IBM 公司、萊特希公司、腦社（Meta）、耐克公司和沃爾瑪公司，並受到了廣泛的媒體關注。不出所料，Sundaram 對這種方法持贊成態度。他說：“與其希望監管機構能夠追趕並遏制招聘 AI 的最糟糕的行為，不如僱主在使用招聘流程中使用 AI 時保持警覺並慎重行事。AI 的發展速度比能夠透過法律對其使用進行規範的速度更快。由於這個原因，最終透過的法律很可能因此而變得非常複雜。這將使得公司有可能誤解或忽視各種法律細節，從而導致那些邊緣化的候選人繼續被忽視。”當然很多人會認為，讓公司為他們使用或開發的 AI 產品開發認證制度本身就存在問題。盡管在某些領域存在瑕疵，根據批評者的觀點，紐約市地方法 144 號確實要求審核應由獨立的審核機構進行，這些審核機構不參與使用、開發或分發被審核的算法，並且不與提交算法的公司有聯動。
結論
當前來看，紐約市地方法 144 號是否能夠最終帶來改變還不好說。但其執行的成功或失敗將影響來年的法律發展趨勢。正如 Nerdwallet 最近一篇文章中提到的那樣，華盛頓特區正在考慮一項規定，要求僱主在自動化決策演算法中防止偏見。加利福尼亞州在過去幾年內提出了兩項旨在對 AI 在招聘中進行監管的法案。去年 12 月，新澤西州提出了一項法案，旨在監管 AI 在招聘決策中的使用，以減少歧視。紐約市地方法 144 號的實施結果無疑會對今後的相關法律產生影響。
