參議院聽證會友善過度：人工智慧法規可能落入產業把持陷阱
在本週的參議院就人工智慧 (AI) 監管進行的聽證會中，最不尋常的事情是這麼友善。產業代表 – 帶領的主要是 OpenAI 的 CEO Sam Altman – 歡快地在說明需要監管新 AI 技術的同時政治人物似乎很樂意將起草規則的責任交給公司本身。正如伊利諾伊州民主黨參議員 Dick Durbin 在開場發言中所說：“我不記得曾經有大公司或私營實體的代表來到我們這裡，請求我們監管他們。”這種友善關係讓人民感到不安。
許多專家和產業人士表示這次聽證會表明我們可能正在進入 AI 產業把持時代。如果容許科技巨頭來制定管理這項技術的規則，他們說，這可能會有許多危害，從壓制較小的公司到引入弱規則。此外產業把持可能會損害較小的公司並導致出現弱規定。
產業把持可能損害較小的公司並導致出現弱規定
與會專家包括 IBM 的 Christina Montgomery 和著名的 AI 批評家 Gary Marcus，他們也提出了產業把持的擔憂。(Marcus 說，危險在於“看起來好像我們正在做一些事情，但更像是美化和什麼也沒發生，我們只是排擠了一些小玩家。”) 雖然 Microsoft 或 Google 沒有人出席，但是科技產業的代言人是 Altman。雖然 Altman 的 OpenAI 現在依然被一些人稱為“新創公司”，但可以說它是全球影響力最大的 AI 公司。該公司像 ChatGPT 一樣的影象和文字生成工具的推出以及與微軟重新打造必應的交易已經在整個科技產業中引起了震動。Altman 本人的位置很好：他能夠吸引 VC 階層和理念上認同核心 AI 技術快速發展的支援者，並有著承諾建立超級智慧 AI、甚至有一天在他自己的話中“掌握未來宇宙中所有價值的光錐”的偉大理想。在本週的會議上，他的言論不太宏偉。Altman 也提到了監管把持的問題，但對於授權小型實體的想法並不完全清楚。“我們不想慢下小型新創公司的腳步。我們不想阻礙開源努力，”他說，“但我們仍然需要讓他們遵守一些規定。”
AI Now 研究所的總經理 Sarah Myers West 告訴 The Verge 報導，她對許多演講者提出的授權系統表示懷疑。她說：“我認為傷害在於，我們最終會有某種表層勾選的練習，其中公司會說‘是的，我們已經得到授權，我們知道有哪些危害，可以繼續按照平常的業務進行’，但當這些系統失靈時，他們面對的實際責任並不會很大。”
一些批評者，特別是那些運營自己的 AI 公司的人，強調競爭的潛在威脅。Stability AI 創始人兼 CEO Emad Mostaque 告訴 The Verge，監管不可避免地會青睞現有的公司，可能會扼殺創新。AI 新創公司 Hugging Face 的 CEO Clem Delangue 在推特上發表了一條類似的反應：“要求設立模型許可證，就好像要求編寫程式碼許可證。這樣做的結果是，進一步將權力集中在少數人手中，而且會大大減緩進步、公平性和透明度。”
但是一些專家認為某種形式的許可證可能會有效。曾在 Google 公司跟隨 Timnit Gebru 一起因發表有關 AI 語言模型潛在危害的研究論文而被解僱的 Margaret Mitchell 自稱“支援某種自我監管，搭配自上而下的監管”，並表示她可以看到認證的吸引力，但也許是針對個人而不是公司。Mitchell 現任 Hugging Face 的首席道德科學家，她說：“你可以想象，要訓練模型（超過某些閾值），開發人員需要‘商業 ML 開發商許可證’，這是將‘負責任的 AI’引入法律結構的簡單方法。”Mitchell 說，良好的規定取決於制定公司無法輕易詐騙的標準，而這需要對評估的技術進行細分的理解。她舉出 Clearview AI 的面部識別公司作為例子，該公司透過聲稱其演算法“100％”準確來向警察部隊出售自己。這聽起來很令人放心，但專家表示該公司使用歪曲測試來產生這些數位。Mitchell 補充說，她普遍不信任大型科技公司能夠為公眾利益而行事。“科技公司一再表明，他們沒有看到尊重人民是經營公司的一部分”，她說。
即使引入許可證，也可能不會立即生效。在聽證會上，行業代表通常引起了人們對未來可能產生的危害的關注，並在此過程中很少注意已經存在的 AI 問題。例如，研究人員 Joy Buolamwini 多次指出面部識別存在偏見的問題，它無法準確地識別黑人的面孔，在美國已造成許多錯誤拘捕案例。儘管如此在聽證會中根本沒有提到基於人工智慧的監視方案，而關於面部識別及其缺陷的討論僅在一次提到時略作提及。
科技產業強調未來 AI 的危害，以避免討論當前的問題
AI Now 的西部表示 AI 產業人士經常強調 AI 的未來危害，以避免討論當前已知的問題。這些個人通常透過談論人
延伸閱讀
- 參議院透過法案，迫使位元組跳動出售 TikTok，否則將面臨禁令
- Perplexity 籌集超過 2.5 億美元，估值達 25-30 億美元，用於其人工智慧搜尋平臺
- 前 Snap 研究人員正在利用人工智慧打造下一代 Bitmoji - 輕鬆創作個人化貼圖
- Adobe 聲稱其最新的影象生成模型是迄今為止最佳的
- 聯合航空如何運用人工智慧讓旅行更輕鬆
- 女性在人工智慧領域的研究：Anna Korhonen 探討語言學和人工智慧的交集
- 人工智慧與文化：Ewa Luger 探索 AI 如何影響文化，反之亦然
- 為何向量資料庫在人工智慧熱潮達到高峰時受到關注
- 本週人工智慧大事記：當「開源」並非那麼開放
- 「AI 界女性：Allison Cohen 談負責任的人工智慧專案建設」
