AI 公司到訪白宮，作出「自願承諾」安全承諾
文/
背景
隨著人工智慧（AI）領域的快速發展，不少人，包括白宮在內，都擔心此領域可能失控。儘管全面的 AI 立法可能還需幾年時間，拜登政府已經與七家最大的 AI 開發者達成「自願承諾」，共同致力於共享的安全和透明目標，這些承諾是為了計劃中的行政命令做準備。OpenAI、Anthropic、Google、Inflection、Microsoft、Meta 和 Amazon 是參與這份非約束性協議的公司，它們的代表將與拜登總統在今天會面，討論相關事宜。
自願承諾的內容
以下是這七家 AI 公司的自願承諾內容：
1. 在發布之前對 AI 系統進行內部和外部的安全測試
包括由公司外部專家進行對抗性「紅隊測試」。這項承諾的目的是為了確保 AI 系統的安全性。
2. 在政府、學術界和「公民社會」之間分享有關 AI 風險和減輕技術的資訊
例如，預防「越獄」行為等。這樣的承諾不僅重要於保護智慧財產權，還可以避免惡意行為者利用 AI 系統造成的機會。
3. 投資於網路安全和「內部威脅保障」
以保護私有模型資料（如權重）不受侵害。這一點不僅是為了保護智慧財產權，同時也避免了過早廣泛發布可能為惡意行為者提供機會的風險。
4. 促進第三方發現和報告漏洞
例如，開展漏洞賞金計劃或領域專家的分析。這一點旨在確保 AI 系統的安全性。
5. 開發強大的水印技術或其他方式對 AI 生成的內容進行標記
這將有助於確保 AI 生成的內容的來源，防止被篡改或濫用。
6. 報導 AI 系統的「能力、約束和適宜使用的領域和不適宜使用的領域」
儘管在這一點上獲得明確的答案並不容易，但相信這一承諾的目的是提供更多關於 AI 系統特性和應用範疇的資訊。
7. 將研究重點放在社會風險上
例如，系統性偏見或隱私問題等。此外公司還將致力於應用 AI 技術解決社會上最大的挑戰，如癌症預防和氣候變化。儘管在新聞電話會議中指出，AI 模型的碳足跡並未被追蹤。
自願承諾的含意與影響
儘管這些承諾是自願性的，我們可以想像，行政命令的威脅會促使公司們遵守自願承諾。例如，如果有些公司拒絕在發布之前允許對其模型進行外部安全測試，行政命令可能會要求聯邦貿易委員會（FTC）對聲稱具有可靠安全功能的 AI 產品進行嚴格監管。白宮顯然希望在這一新的科技浪潮中走在前列，因為對社交媒體的潛在影響力曾經讓他們措手不及。總統和副總統都曾與業界領袖會面，徵詢他們對國家 AI 戰略的建議，同時也在新的 AI 研究中心和計劃上投入了大量資金。當然國家的科學和研究體系早已超前於他們，正如美國能源部和國家實驗室所發表的一份全面報告所顯示的挑戰和機遇。
結論
自願承諾是 AI 公司在發展過程中重要的一步，這顯示了行業自律和對公眾安全和透明度的關注。然而這些承諾的有效執行還需要更多的監管並確保其不僅是一紙空文。整個 AI 行業還需要持續的政策討論和立法工作，以制定更具約束力的規範，從而確保 AI 技術的安全和應用能帶來最大的正面效益。
延伸閱讀
- 「亞馬遜高層：AI 技術正徹底改變公司每個角落！」
- 運用 AI 強化銷售能力，Regie.ai 如何保持人性化觸感？
- 框架首款桌面電腦：為遊戲與本地 AI 推理量身打造的極致體驗！
- 「白宮證實：DOGE 有官方‘代理’管理者，非伊隆·馬斯克！」
- 英國重新命名人工智慧機構，首度與 Anthropic 合作打造 AI 安全新未來！
- ChatGPT 該不該被視為節能型 AI？最新研究揭示其能耗真相！
- 深度探索的 R1 AI 模型被報導更容易遭遇破解攻擊！你準備好了嗎？
- 探索 Microsoft Copilot：你必須知道的 AI 技術全解析！
- "AI 安全倡導者呼籲創始人放慢步伐：警惕未來風險！"
- 《Decart 推出 AI 技術，讓你在 Minecraft 中體驗即時互動樂趣！》
