紐約市的 AI 偏見稽核法規：幫助解決 AI 招聘工具中的偏見問題
概述
紐約市自今年 1 月起實施了自動化就業決策工具(Automated Employment Decision Tool, AEDT)法規，這被認為是美國首例旨在減少 AI 驅動的招聘和就業決策偏見的法規。根據這項法規，僱主和聘用機構在使用人工智慧和基於演算法的技術評估紐約市的求職者和員工之前，必須進行一次獨立的偏見稽核。
AEDT 法規的要求
根據紐約市消費者和工人保護部門(Department of Consumer and Worker Protection)公布的一份問答集(FAQ)，偏見稽核每年必須完成一次，並由獨立的稽核師進行「公正評估」。稽核的要求包括計算在性別、種族/族裔和交叉類別方面的選擇或評分比率和影響比率。
此外法規要求僱主和聘用機構遵守「所有相關的反歧視法律和規則，根據偏見稽核結果確保任何必要的行動」，並公布最近一次偏見稽核結果的摘要。
法規適用的挑戰
這項法規對大部分情況下的遵守並不困難，但在某些邊緣情況下，確保法規是否適用可能更具挑戰性。例如，如果工作是一個完全遠端的職位，紐約市是否有管轄權？理智法律師事務所(Littler)的股東 Niloy Ray 指出，「這些邊緣情況變得有些混亂，但我認為通常只要你能理解技術，就還是很容易的。然後只需要收集資料並對資料進行簡單的計算。」
不僅是紐約市
不僅紐約市，加利福尼亞、新澤西、佛蒙特、華盛頓特區、麻薩諸塞等州或地區也在考慮制定類似的 AI 偏見招聘工具法規。這表明越來越多的政府機構開始關注 AI 技術中的偏見問題。
重要性和合規建議
法規對紐約市的大公司來說符合合規要求可能並不困難，因為他們很可能已經具備了所需的工具和資源。對於規模較小的公司來說他們可能已經從第三方供應商那裡獲得了已經完成偏見稽核的工具。
在確保法規適用性和實施偏見稽核方面，建議與供應商和法律顧問進行討論。與在經營該領域多年的法律顧問合作，可以迅速建立一個合規框架。此外即使錯過了截止日期，仍應盡快努力達到合規，並將努力紀錄下來以供法律建議和供應商協助。只要能夠誠信地合作，新法規的新興性和複雜性不太可能對企業產生不利後果。
結論
紐約市的 AI 偏見稽核法規為解決 AI 招聘工具中的偏見問題提供了一個重要的框架。儘管還存在一些挑戰和模糊點，但該法規在確保招聘和就業過程中的公正和平等方面具有積極的意義。企業需要與供應商和法律顧問合作，確保遵守法規並落實偏見稽核。
