越來越多企業承諾遵守白宮 AI 安全協議
企業對 AI 安全的承諾
根據報導，包括 Adobe、Nvidia 和 IBM 在內的多家公司承諾白宮，他們將開發安全、可靠的人工智慧系統。這是拜登政府與 AI 開發者達成的第二個類似協議。其他承諾遵守白宮 AI 安全協議的企業還包括 Cohere、Palantir、Salesforce、Scale AI 和 Stability AI。這些協議是自願性的，因此如果企業未能履行承諾，將不會受到懲罰。
協議內容
根據白宮的新聞稿，這些企業同意在商業發布之前進行內外部測試，並投資用於保護模型權重的安全機制。同時他們也同意與政府、公民社會和學術界共享風險管理訊息。此外這些企業還同意允許第三方報告漏洞，對 AI 生成的內容進行數位浮水印，公開報告其 AI 系統的風險，研究社會風險，並開發能夠幫助解決社會最大挑戰的 AI 系統。拜登政府表示他們在制定這些承諾時諮詢了多個國家的領導人。
AI 安全與創新的平衡
AI 一直是拜登政府的重點關注領域，他們希望在安全和創新之間取得平衡。政府已經發布了一份 AI 權利法案，計劃成為規則制定的藍圖，並指示國家科學基金會建立新的國家人工智慧研究機構。然而相對於創新的速度，AI 的立法進展緩慢。對於 AI 技術的法規制定仍在討論中，特別是生成型 AI，在本週召開的聽證會上，參議院恢復了對 AI 立法的討論。參議院多數黨領袖查克·舒默在本週三將會晤一些 AI 界的領袖，之前他曾敦促同事們“加快”AI 政策制定的步伐。
評論與觀點
這項 AI 安全協議的簽訂是一個重要的裏程碑，顯示了 AI 開發者以及相關企業對 AI 的負責態度。與 AI 相關的風險和潛在的不良後果已引起了全球的關注。過去的一些事件和事故已經警示著我們，AI 技術需要受到更嚴格的監管和管理。
然而這些協議是否足夠保護公眾利益，仍然有待檢驗。首先協議是自願性的，沒有執行機制，這意味著企業可以選擇遵守或不遵守承諾。即使企業在協議中作出了承諾，但如果沒有進一步的監督和執法機制，這些承諾可能只是空中樓閣。
其次對於生成型 AI 等具有高風險的應用領域，協議是否有具體的規定和標準，以保證 AI 系統的安全和可靠性？在 AI 技術的迅猛發展中，我們需要確保技術的創新與安全的平衡。不僅需要技術開發者的自律，更需要政府、學術界和公民社會的監督和參與。
最後我們需要思考的是，在權力和責任之間如何取得平衡。AI 技術的發展為我們帶來了巨大的潛力和機遇，同時也帶來了許多倫理和社會問題。我們應該如何確保 AI 技術不被濫用或受到偏見的影響？這是一個需要廣泛討論和倡導的問題。
建議與展望
白宮 AI 安全協議的簽訂是一個重要的開端，但仍然需要更多的努力來確保 AI 的安全和可靠性。在 AI 技術的發展和應用中，政府、學術界、企業和公民社會各方應該攜手合作，制定更具體、有效的監管措施。
首先我們需要建立一個全面的法規框架，來指導 AI 的發展和應用。這包括安全測試、隱私保護、責任追究等方面的規定，以確保 AI 技術的運用符合公共利益，並維護個人隱私和資料安全。
其次政府應該加固對 AI 技術開發者的監管和執法能力。這不僅需要配備專業的人員和技術，還需要建立與業界的合作機制，及時發現和應對 AI 系統中的漏洞和風險。
最後公民社會應該積極參與 AI 技術的討論和監督。更多的公共參與和透明度將有助於確保 AI 技術的公平性和效用。我們應該鼓勵更多的社會組織、學術界和個人參與這一議題，共同推動 AI 技術的安全和道德發展。
延伸閱讀
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- 這款相機以 AI 詩詞交換照片
- Webflow 併購 Intellimize，加入 AI 動力頁面個性化
- 頭條新聞：頂級公司專頁功能即將上線，搭載 AI 及行銷工具助您擴充套件觀眾量
- 英特爾等公司承諾為企業打造開放生成式人工智慧工具
- Amazon Music 跟隨 Spotify 推出自己的 AI 播放清單生成器 Maestro
- 「Facebook 與 Instagram AI 生成的裸照遭調查」
- 新聞標題：Meta 在 Instagram 測試 AI 動力搜尋欄
