美國政府獲得 7 家領先的人工智慧公司自願承諾管理 AI 模型的風險
背景簡介
今天拜登-哈裏斯政府宣布已經從七家領先的人工智慧公司獲得了自願承諾，用於管理短期和長期的 AI 模型風險。OpenAI、亞馬遜、Anthropic、Google、Inflection、Meta 和微軟的代表將在今天下午在白宮簽署這些承諾。承諾的範圍包括確保產品在向公眾推出之前的安全性，包括在發布 AI 系統之前進行內部和外部安全測試以及在管理 AI 風險方面進行訊息共享。此外這些公司承諾投資於網路安全和保護措施，以「保護專有的和未公開的模型權重」，並促進第三方發現和報告其 AI 系統的漏洞。最後這些承諾還包括開發水印等系統，以確保使用者知道哪些內容是由 AI 生成的；公開報告 AI 系統的能力、約束和適當/不適當用途；以及優先研究社會 AI 風險，包括偏見和隱私保護。
承諾的意義和約束
這些自願承諾雖然缺乏法律約束力，並不構成任何新的法規。紐約大學斯特恩商業與人權中心副主任保羅·巴雷特（Paul Barrett）將這些行業承諾稱為「重要的第一步」，並強調了在發布新的 AI 模型之前進行全面測試的承諾，而不是假設只有在模型推向市場後出現安全問題時才修復它們。然而由於這些承諾缺乏法律約束力，他補充說:「國會與白宮迅速制定法律，要求透明度、隱私保護以及加固對生成式 AI 所帶來的各種風險的研究，是至關重要的。」
白宮的承諾和未來立法
白宮表示今天的宣布是「拜登-哈裏斯政府確保以安全和負責任的方式開發人工智慧、保護美國人民免受傷害和歧視的更廣泛承諾的一部分」。白宮表示政府當前正在制定一項行政命令，並將推動兩黨立法，幫助美國在負責任的創新方面走在前列。值得注意的是，這些行業承諾是在今年秋季國會的政策努力之前宣布的，以應對 AI 政策上的複雜問題，並朝向法案達成共識。參議院多數黨領袖查克·舒默（Chuck Schumer）表示美國參議員將進入學習階段，將參與至少九個與版權、勞動力問題、國家安全、高風險 AI 模型、存在性風險、隱私和透明度以及選舉與民主等問題相關的論壇。這一系列的 AI「洞見論壇」，將於九月和十月舉行，將有助於「為 AI 政策奠定基礎」。上個月，舒默宣布了這些論壇的舉辦，由四位與黨派關係無關的參議員領導，並提出了他的 AI 政策創新框架。
專家的評論和展望
曾擔任 2021-2022 年拜登政府 AI 政策顧問的 Brown 大學電腦科學教授 Suresh Venkatasubramanian 在 Twitter 上表示這種自願性的努力在立法、行政命令和法規之間有其存在的價值。「此類努力有助於顯示在公共系統開發中增加防範措施並不是世界末日，也不會終結創新。即使是自願性的努力也能幫助組織理解他們需要如何在組織結構上加入 AI 治理。」他還表示即將出臺的行政命令「令人感興趣」，稱之為「白宮當前最具體的單方面權力」。
評論和建議
加固 AI 模型風險管理的必要性
這次自願承諾是 AI 行業在防範 AI 模型風險方面的一個重要裏程碑。過去幾年來，隨著 AI 技術的迅猛發展和應用的普及，越來越多的擔憂和問題浮現出來。AI 模型的漏洞、偏見和隱私問題可能對個人和社會產生嚴重影響。因此加固 AI 模型風險管理的必要性不言而喻。
自願承諾的約束和追加立法的必要性
儘管自願承諾是一個重要的開端，但其缺乏強制性約束力，仍然存在約束。這些承諾僅限於參與公司，無法確保整個行業都能遵守相同的標準和實踐。因此需要進一步的立法和法規來確保對 AI 模型的監管和風險管理。國會應儘快制定相關法律，要求透明度、隱私保護和對 AI 模型可能帶來的各種風險進行深入的研究。
培養 AI 治理的國際合作
AI 技術的發展和應用超越了國界，因此 AI 治理需要跨國合作和共同努力。各國政府和 AI 公司應加固合作，分享最佳實踐和經驗，共同制定全球性的 AI 治理標準和指導原則。僅有單一國家的努力和法規無法有效解決 AI 模型的風險和挑戰。
前瞻性研究和創新
在管理 AI 模型風險的同時我們也應該鼓勵和支援前瞻性的研究和創新，以推動 AI 技術的發展和應用解決重大挑戰。AI 有巨大的潛力幫助解決社會問題，如癌症預防和應對氣候變化。因此 AI 公司應該承諾發展和部署先進的 AI 系統，以應對社會的最大挑戰。
結論
自願承諾是 AI 行業管理模型風險的重要一步，但僅限於參與公司之內，需要進一步的立法和全球合作來確保有效的 AI 治理。政府、企業和學術機構應共同努力，確保 AI 的安全、負責任和可持續發展，從而充分發揮其潛力，造福人類。
