國際行為守則促進安全、可信賴的 AI 發展
全球領導者積極應對 AI 的風險與機遇
給企業資料領導者的獨家高管活動《AI Unleashed》已經拉開序幕，該活動旨在促進企業界間的交流學習。眾多全球政府領導者明確表示他們對 AI 的風險和機遇非常重視。最新國際政府行動中，七國集團（G7）宣布了《組織開發先進 AI 系統的國際行為守則》。這份自願的指導檔案是在今年 5 月宣布的「廣島 AI 程式」的基礎上制定的，旨在促進安全、可靠、值得信賴的 AI 技術發展。此外在美國總統喬·拜登同日發布了「安全、可靠和值得信賴的人工智慧」的行政命令。此舉同時也是歐盟正在最終確保具有財務約束力的《歐盟 AI 法案》之際以及聯合國祕書長最近成立的新的人工智慧諮詢委員會之後。該委員會由三十多名全球政府、科技和學術領袖組成，將支援國際社會治理這一不斷發展的技術。
深化共識：塑造 AI 的包容性治理
G7 在一份宣告中表示：“我們強調先進 AI 系統，尤其是基礎模型和生成式 AI 的創新機遇和轉型潛力。我們也認識到，有必要管理風險並保護個人、社會和我們所分享的原則，包括法治和民主價值觀，讓人類放在中心位置。”各國領導者表示應對這些挑戰需要“塑造一個包容性治理”來應對 AI。
促進負責任 AI 建設與應用的 11 點框架
G7 由美國、歐盟、英國、加拿大、法國、德國、義大利和日本組成，他們發表了一個新的 11 點框架，旨在幫助開發者在負責任的 AI 建設和應用中有所指引。全球領導人呼籲組織承諾這一守則，同時承認“各地方可能採取自己獨特的方法來實施這些指導原則”。這 11 點原則包括：
- 在開發過程中採取適當措施來識別、評估和減輕風險，包括紅隊測試、測試與減輕措施，以確保信賴度、安全性和可靠性。開發者應該實現對資料集、過程和決策的可追溯性。
- 在部署後識別和減輕弱點、事故和不當使用的模式。這包括監控弱點、事故和新興風險，並促進第三方和使用者發現和上報事故。
- 公開報告先進 AI 系統的能力、約束以及適當和不適當使用的範疇。這應該包括由“堅實的檔案管理流程”支援的透明度報告。
- 致力於負責任的訊息共享和事故報告。這包括評估報告、安全和風險訊息、意圖或意外的能力以及繞過保護措施的企圖。
- 制定、實施和公開 AI 治理和風險管理政策。這適用於個人資料、提示和輸出。
- 投資並實施安全控制措施，包括物理安全、網路安全和內部威脅防範。這可能包括保護模型權重和算法、伺服器和資料集的安全，包括運營安全措施和網路/物理存取控制。
- 開發和部署可靠的內容取證和來源追溯機制，如水印技術。來源追溯資料應該包括建立內容的服務或模型的識別符號，免責宣告也應告知使用者他們正在與一個 AI 系統互動。
- 優先考慮減輕社會、安全和風險的研究。這可以包括進行、合作和投資於研究，並開發減輕工具。
- 優先開發 AI 系統來應對“世界上最重大的挑戰”，包括氣候危機、全球健康和教育。組織還應支援數位素養計劃。
- 推進國際技術標準的制定和應用。這包括為制定和使用國際技術標準和最佳實踐做出貢獻。
- 為個人資料和智慧財產權實施適當的資料輸入措施和保護機制。這應包括訓練資料的透明度和適當保護。
一份「非盡善、非固定」的生動檔案
G7 強調 AI 組織必須尊重法治、人權、正當程式、多樣性、公平與非歧視、民主和以人為中心的原則。先進系統不應以有害的方式引入，危害民主價值觀，促進恐怖主義，促使犯罪濫用或“對安全、安全性和人權構成重大風險”。集團還承諾引入監測工具和機制以追究組織責任。為確保其“符合目的並能及時回應”，守則將根據政府、學術界和私營部門的意見進行必要的更新。這份“非盡善、非固定”的守則將作為一份“動態檔案”來討論和詳細說明。G7 領袖進一步表示他們的努力旨在促進 AI 的最大化利益，同時減輕其“對全球公共利益的風險”。這應該包括面向發展中和新興經濟體的努力，實現數位包容性和消除數位鴻溝。
其他全球領導者的支援
這份守則得到了其他全球政府官員的批準，包括歐洲委員會副主席維拉·尤羅娃。她在宣告中表示：“可信賴、符合道德、安全、安全的 AI 是我們想要和需要的。”借助這份守則，“歐盟和我們志同道合的夥伴可以引領 AI 在帶來利益的同時解決其風險問題。”歐洲委員會主席烏蘇拉·馮·德萊恩則表示：“人工智慧對公民和經濟的潛在益處巨大。然而 AI 能力的加速也帶來了新的挑戰。我呼籲 AI 開發者盡快簽署並實施這一守則。”
本文綜述了 G7 宣布《組織開發先進 AI 系統的國際行為守則》的重要性，詳細介紹了守則的 11 點框架以及該守則的重要特點和全球領導者的支援。這份守則旨在幫助引導 AI 開發者在負責任的 AI 建設和應用中發揮作用，以確保 AI 的安全、可靠和可信賴。同時全球領導者還強調了包容性治理的重要性，以促進 AI 在全球公共利益中的最大化利益。
延伸閱讀
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- 這款相機以 AI 詩詞交換照片
