紐約市首創人工智慧招聘法引發企業擔憂
背景
今年七月，紐約市宣布開始嚴查違反該市首個全國性人工智慧招聘法（紐約市法案 144 號）的企業。即使不在紐約市設有總部，但在那裡有業務執行和員工的公司，尤其是全球企業，也必須遵守這項新法規。這項法律並沒有明確禁止使用人工智慧，但提供了在招聘決策中如何使用技術的指南。這一點非常重要。各行各業的組織（醫療保健、製造業、零售等等）已經在多種方式中使用智慧技術。例如，腫瘤科醫生使用人工智慧高精度診斷癌症，製造業和零售業預測購買模式以改進物流和消費者體驗，幾乎所有的音樂錄製當今都利用自動調音來修正或增強歌手的音高。人工智慧在人事事務中的應用，是 NYC 144 法案的重點。然而在多次延遲後，這項新法令使許多公司感到不安，尤其是在擁有許多空缺職位且失業率接近歷史低點的時候。
解釋透明度和規範
像是微軟總裁 Brad Smith 和 Google 執行長 Sundar Pichai 等知名科技名人都認可監管框架。透明度總是好的。「我仍然認為，人工智慧太重要了，因此無法不加以監管，而且這種監管必須做得很好」，Pichai 在《金融時報》上寫道。然而如果沒有做好監管工作，法規可能會對求職者和招聘經理產生負面影響，約束了構成正面招聘流程核心的深思熟慮的資訊和度身定制體驗。三十年前，招聘人員在辦公桌上翻動一堆簡歷。候選人通常基於一些不一致的標準被選中，包括常常參考常春藤聯盟教育、簡歷的位置以及恰巧這份簡歷放在堆疊的高處，這些都是候選人無法控制的。當科技未被使用時，人類的無意識偏見增加了另一種無法追蹤的過濾器。人工智慧能夠提供可規模擴充套件和準確性，幫助平等地把具備所需技能和經驗的人匹配到合適的職位，無論他們在「山積」的簡歷堆疊中位於何處。人工智慧還幫助招聘人員全面理解一個人，發現個人在簡歷中可能沒有突出顯示的技能。人工智慧無法阻止招聘人員或招聘經理簡化流程，但它可以幫助他們尋找可能在簡歷堆疊中遺失的相關簡歷。人類的控制和人工智慧的支援結合，可以在兩個方面對抗偏見。首先人類決策中的偏見的其中一個原因是人們往往尋找解決問題的捷徑，例如只關注來自常春藤聯盟學校的候選人，而不願花時間和精力來尋找和評估非傳統背景的候選人。其次對不良影響的偏見檢測能夠實時揭示此類偏見，使組織能夠採取行動阻止這種有偏見的決策。在歐洲，有關是否約束在人才招聘生命周期中的任何個性化的法律亦正在進行辯論。這可能不僅會妨礙外部候選人的就業前景，還會妨礙已經在公司內部尋求轉職的員工。過度約束這些技術的應用，實際上可能導致更多偏見存在，因為一個不完美的人類將完全負責決策過程。這可能導致受到紐約法律罰款以及其他聯邦刑罰；因為，在招聘、解僱或晉升方面發生任何歧視都將使企業承擔責任，即使這是無意的，並且不管是否是由人工智慧輔助的。
無需恐懼
沒有完美的法律，紐約的新法規也不例外。其中一個要求是通知申請人正在使用人工智慧——就像網站上的 Cookie 通知或者大多數人點選同意但未真正理解的終端使用者許可協議（EULA）。言語重要。當閱讀有關人工智慧使用的通知時，個人很容易浮現電影中描述的人工智慧超越人類的末日場景。有無數的例子表明，新技術會引起恐懼。十九世紀人們認為電力不安全，腳踏車剛問世時被認為是危險、不雅觀和不安全的。解釋性是這項法規的一個關鍵要求，也是一個良好的實踐要求。有幾種方法可以減少人們的恐懼並改善通知的效果：使通知清晰簡明，盡量減少法律術語的使用，以便受眾能夠理解所使用的人工智慧。
遵從人工智慧監管法規
建議
沒有人故意違反紐約的法律。所以作為企業領導者，以下是三個建議，供您與法律顧問一同努力：
1. 檢查通知內容和使用者體驗
您能否以淺顯易懂的用語向求職者解釋使用這些技術的情況？愛因斯坦曾說：“如果你無法用簡單的方式解釋它，那你對它還不夠瞭解。”告訴人們，在求職網站上使用了一個演算法。例如：“這是我們正在收集什麼，這是我們將如何使用它（以及我們將如何避免使用它）以及您如何控制其使用。”
2. 參與規範過程，立即行動
唯有理解即將推出的規範，並確保合規，企業才能保持領先地位。這在歐洲的《通用資料保護條例》（GDPR）實施時就是一大挑戰。GDPR 的合規期從 2018 年 5 月開始。大多數企業當時尚未準備好。相應的罰款非常嚴重。將這些經驗應用到紐約的法律中，透過與志同道合的組織和政府機構進行頂層和高層會議，不僅能開啟討論，還可以在政策、程式和實踐方面實現對經營模式的準確把握。
3. 具備接受審計的準備
檢視整個過程，與技術提供商合作，確保這些工具在哪些方面提供建議，並確保在應用公平和負責任。紐約要求公司擁有獨立的人工智慧審計人員。審計長久以來一直是商業領域的一部分，例如會計、IT 安全和聯邦醫療訊息隱私等領域。下一個問題是：誰來審核審計人員？這取決於是否應該由不僅僅是政府，還有私人和公共實體組成的機構有專業知識，以制定合理的指導方針。因此瞭解您的過程，準備好內部審計，並對所有這些事情對您的員工進行培訓。
一國一法
警告
對企業領導者，我最後的警告是要注意本州的立法者，他們可能會效仿紐約的先例制定自己的法規。我們不能擁有五十種不同的防止人工智慧偏見的法律。聯邦政府需要介入並將各州團結在一起。紐約和加利福尼亞已經存在差異。內華達州和科羅拉多州以及其他州會發生什麼情況？如果州制定了一系列法律，企業不僅在遵守方面會面臨困難，甚至在運營方面也會遇到問題。州立法者和監管機構應該與相鄰州的同事取得聯絡，理解他們在人力資源上的人工智慧使用情況。因為如果州之間有接壤，他們最好能夠共享就業機會。國會立法者已表示有意研究人工智慧法律，雖然當前不清楚法律的內容是否涉及就業，但這是一個好的開始。相較於立法過程，破壞性技術發展迅猛。一個擔憂是，當眾議院和參議院行動時，技術可能早就超越了所透過法案的要求。然後這變成一個立法的永無止境的轉盤。「人工智慧是一個非常棘手的問題，因為它發展得如此迅猛」，紐約參議員 Chuck Schumer 說。他十分正確。這恰是為什麼聯邦立法者需要走在州立法者之前。只有有更多而不是更少的資料和使用者投入，人工智慧系統才能提升招聘和升遷流程。我們為什麼要退回到原來的方式？
結論
由於人工智慧技術的發展速度超過立法過程，紐約市的首個人工智慧招聘法引起了企業的擔憂。雖然這項法規旨在提供使用指南，但過度監管可能導致一些不利影響，同時約束了招聘的資訊和個人化體驗。然而透明度和規範仍然是必要的，以避免人工智慧濫用。企業應該採取實際行動，適當解釋人工智慧的使用，參與監管過程，並確保他們的招聘流程是公正和負責任的。更重要的是，聯邦政府需要介入，確保各州之間的法規一致性，以避免對企業運營產生不必要的影響。
延伸閱讀
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
- Rad AI 完成由 Khosla Ventures 領投的 5 千萬美元 B 輪融資
- 「Meta AI 對印度男性生成影象時偏好頭巾」
- Quora CEO Adam D’Angelo 分享人工智慧和聊天機器人平臺 Poe，並解釋為何 OpenAI 並非競爭對手
- 女性在 AI 領域的傑出貢獻：Catherine Breslin 協助企業制定 AI 策略
- 替代雲技術蓬勃發展，企業尋求更便宜的 GPU 存取
- 在 AI 領域的女性：Tara Chklovski 正在教導下一代的 AI 創新者
