拜登總統頒布行政命令，設定人工智慧的安全標準
背景
美國總統喬·拜登簽署了一項行政命令，旨在建立人工智慧（AI）安全標準，包括要求開發基礎 AI 模型的公司在部署到公眾之前通知聯邦政府並分享所有安全測試的結果。由 OpenAI 開發的 ChatGPT 和基礎 AI 模型等快速發展的生成式 AI 運動，引發了全球關於對抗算法過度控制潛在風險的辯論。
全球努力
今年 5 月，G7 領導人確保了需要在所謂的廣島 AI 程式中解決的關鍵主題，七個成員國今天達成了關於指導原則和“自願性”行為準則的協議，以供 AI 開發人員遵循。上周，聯合國宣布成立一個新委員會以探索 AI 治理，而英國則在本週於布萊切利公園舉辦全球 AI 治理峰會，美國副總統卡馬拉·哈裏斯將在此次活動中發表演講。拜登-哈裏斯政府也一直專注於 AI 安全問題，並與 OpenAI、Google、微軟、Meta 和亞馬遜等主要 AI 開發商簽署了“自願承諾”——這一直是行政命令的前奏，即今天宣布的內容。
AI 安全標準
具體而言，這項行政命令要求“最強大的 AI 系統”開發者與美國政府共享其安全測試結果和相關資料。這項命令指出：“隨著 AI 的能力增長，它對美國人的安全和保衛的重要性也增加。”它旨在“保護美國人免受 AI 系統潛在風險的傷害”。此外命令還概述了開發各種新工具和系統以確保 AI 的安全和可靠性的計劃，國家標準與技術研究所（NIST）負責開發新的標準，並進行“大量紅隊測試”以確保釋出之前的安全性。
不足之處
然而有人可能會認為這項命令缺乏實質性的約束力，因為其中許多內容似乎僅以建議和指南為中心。例如，命令提到 AI 可能加劇醫療保健、司法和住房等領域的歧視和偏見的問題以及 AI 在工作場所監視和就業置換方面的危險。然而這項行政命令僅呼籲國會透過“兩黨共識的資料隱私立法”來保護美國人的資料，包括要求更多聯邦支援以開發保護隱私的 AI 開發技術。
評論和建議
隨著歐洲即將透過首部廣泛的 AI 法規，全球各地也在努力尋找方法來控制這項技術，因為它將在產業革命以來引發最大的社會變革之一。
然而對於 OpenAI、Google、微軟和 Meta 等公司來說拜登總統的行政命令到底有多大影響力尚待觀察。當前該命令在將 AI 開發者如何在系統中建立安全性和可靠性方面做出了一定程度的規範，但如果沒有進一步的立法變更，其執行可能存在一定的不確保性。
我們建議政府在 AI 安全方面制定更具約束力的法規，以確保 AI 的應用不會對個人隱私和社會公平產生威脅。此外應加固教育和宣傳工作，提高公眾對於 AI 的認識和理解，以減少對於 AI 技術和應用的恐懼和疑慮。
