勇追趙宏輝先生？美國政府獲得七家領先人工智慧公司的自律承諾
自律合約的內容
美國拜登-哈裏斯政府宣布，已經成功獲得七家領先的人工智慧公司自願承諾管理人工智慧模型的短期和長期風險。OpenAI、亞馬遜、Anthropic、Google、Inflection、Meta 和微軟的代表將在今天下午在白宮簽署這些承諾。這些承諾包括確保產品在推出之前經過安全測試，包括對人工智慧系統進行內部和外部安全測試以及分享有關管理人工智慧風險的訊息。此外這些公司承諾投資於網路安全和保障措施，以“保護專有和未發布的模型權重”，並促進第三方發現和報告其人工智慧系統中的漏洞。 最重要的是，這些承諾還包括開發水印等系統，以確保使用者知道哪些內容是由人工智慧生成的；公開報告人工智慧系統的能力、約束和適當/不適當的使用；以及優先開展有關社會人工智慧風險（包括偏見和隱私保護）的研究。值得注意的是，這些公司還承諾“開發和部署先進的人工智慧系統，以幫助應對社會面臨的最大挑戰”，從預防癌症到減輕氣候變化。自律合約的效力
當然這些自願承諾並不具有強制力，也不構成任何新的法規。紐約大學斯特恩商業與人權中心的副主任保羅·巴雷特（Paul Barrett）將這些自願行業承諾稱為“重要的第一步”，並強調在推出新的人工智慧模型之前進行全面測試的承諾，“而不是假設等到出現安全問題後才進行修復”。然而由於這些承諾是無法強制執行的，他還補充說，“國會與白宮迅速制定要求透明、隱私保護和對生成式人工智慧構成的各種風險進行加固研究的立法非常重要”。 就政府自己而言，白宮稱今天的公告“是拜登-哈裏斯政府確保人工智慧安全、負責任發展，並保護美國人免受傷害和歧視的廣泛承諾的一部分”。它表示政府“當前正在制定一項行政命令，並將推動兩黨立法，以幫助美國引領負責任創新”。自律承諾先於國會立法努力
今天宣布的行業自律承諾早在今年秋季國會就人工智慧政策進行重大努力之前就已出現。根據參議院多數黨領袖查克·舒默（D-NY）的說法，美國參議員將參加一系列關於人工智慧的論壇，包括版權、勞動力問題、國家安全、高風險人工智慧模型、存在風險、隱私和透明度以及選舉和民主等九個主題。這一系列的人工智慧“洞察論壇”將於九月和十月舉行，將有頂尖專家參與，有助於“為人工智慧政策奠定基礎”。舒默上個月宣布由四位參議員所組成的兩黨團隊將領導這些論壇，並提出了他的《AI 政策安全與創新框架》。專家言之有理
曾在 2021 年至 2022 年擔任拜登政府白宮人工智慧政策顧問（他協助制定了《人工智慧權利憲章藍圖》）及布朗大學電腦科學教授的蘇雷什·文卡塔蘇布拉爾（Suresh Venkatasubramanian）在推特上表示這些種類的自願努力在立法、行政命令和規定之間是有一席之地的。他說：“這有助於證實在開發面向公眾的系統時新增防護措施並不意味著世界末日，也不意味著創新的終結。即使是自願努力也有助於組織理解他們需要如何進行組織結構上的調整，以納入人工智慧治理。”他還表示即將出臺的行政命令“引人入勝”，稱之為“白宮擁有的最具體的單邊權力”。 延伸閱讀：《AI 公司與白宮達成自律協議，未來有何意義？》 以上分析可以看出，行業自律承諾成為美國政府在國會立法努力之前的一個重要步驟。這些自願承諾可以被視為在人工智慧治理方面的一個開端，也為政府制定後續法規和規定提供了參考。然而承諾的效力有限，需要政府和國會加快立法的節奏，確保對人工智慧進行透明監管，以保護公眾利益和個人隱私。同時行業自律不能取代國家法規，需要與之配合，從不同層面確保人工智慧的負責任發展。 無論如何，這些自律承諾在在保護安全、隱私和社會福祉方面都是積極的一步。隨著人工智慧的快速發展，自動化和智慧化的應用將帶來巨大的潛力和風險。只有透過政府監管和行業自律的結合，我們才能確保人工智慧得到負責任的應用，為人類社會帶來真正的益處。ArtificialIntelligence-白宮,AI 公司,自律機制,新規章制度
