大型科技公司無法擔保人工智慧安全
由愛迪絲·M·雷德爾 (Edith M. Lederer) 提供
大型科技公司領先於商業化人工智慧（AI）的競賽，但他們無法被信任來保證我們尚未完全理解且容易出現「混亂或不可預測行為」的系統的安全性，一位人工智慧公司的執行長在聯合國首次人工智慧威脅全球和平的安理會會議上表示。Anthropic 人工智慧公司的聯合創始人傑克·克拉克(Jack Clark)表示這就是為什麼全球必須團結起來防止這項科技被濫用。克拉克表示現在可以做的最有用的事情是「致力於開發測試這些系統的能力、濫用情況和潛在安全缺陷」。
在聯合國的這次安理會會議上，克拉克告訴國際社會，他的公司竭力訓練 AI 聊天機器人強調安全和謹慎。他離開了 OpenAI（開放人工智慧），該公司創造了最著名的 ChatGPT 聊天機器人，來創辦 Anthropic 公司，並推出了名為 Claude 的競爭性 AI 產品。他追述了過去十年 AI 的發展，直到 2023 年，新的 AI 系統能在空戰模擬中戰勝軍事飛行員，穩定核聚變反應器中的等離子體，設計下一代半導體的元件以及檢查生產線上的商品。然而他也警告說，雖然 AI 將帶來巨大的好處，但它對生物學的理解可能會被用於製造生物武器。
對國際和平的潛在威脅
克拉克還警告說，AI 系統的兩個基本特徵—潛在的濫用和不可預測性「以及由一個狹窄的參與者群體進行開發的固有脆弱性」—對國際和平、安全和全球穩定構成潛在威脅。他強調全球科技公司擁有複雜的電腦、大量的資料和資本來建立 AI 系統，因此它們似乎有可能繼續定義 AI 的發展。
在聯合國安理會會議的錄影簡報中，克拉克表示他對全球行動的成功感到鼓舞。他說，他很高興看到許多國家強調在其 AI 計劃中安全測試和評估的重要性，包括歐盟、中國和美國。然而他指出，當前還沒有關於「如何測試這些先鋒系統的歧視、濫用或安全等問題的標準或最佳實踐」，這使得政府難以制定政策，讓私營企業享受訊息優勢。
克拉克說：“任何明智的監管方法都必須具備評估特定能力或缺陷的 AI 系統的能力。”他說：“而任何失敗的監管方法都將以不受有效度量和評估支援的重要政策思想開始。”他表示透過對 AI 系統進行強大可靠的評估，「政府可以追究公司的責任，公司可以贏得世界的信任，他們想要將他們的 AI 系統部署到其中」。但他也警告說，如果缺乏強大的評估，「我們將面臨監管被控制，危及全球安全並將未來交付給少數私營部門參與者的風險」。
對 AI 監管的呼籲
不只克拉克，其他 AI 執行長如 OpenAI 的 CEO 山姆·阿爾特曼 (Sam Altman)也呼籲進行監管。然而懷疑論者認為，監管可能對 OpenAI、Google 和 Microsoft 等金錢雄厚的先行者有益，因為較小的參與者無法負擔使其大型語言模型遵守監管要求的高成本。
聯合國祕書長安東尼奧·古特雷斯（Antonio Guterres）表示聯合國是制定全球標準、最大程度發揮 AI 利益並減輕其風險的「理想場所」。他警告安理會說，生成式 AI 的出現可能對國際和平與安全產生非常嚴重的後果，指出它可能被恐怖分子、犯罪分子和政府使用，導致「大規模死亡和破壞、廣泛的創傷以及無法想像的規模的深層心理傷害」。
古特雷斯表示作為彙報全球 AI 治理選項的高級顧問委員會的首要任務，他正在任命一個高級顧問委員會，並將於今年年底向聯合國報告。聯合國祕書長還表示他歡迎一些國家提出建立一個新的聯合國機構來支援全球治理 AI 的呼籲，「受到國際原子能機構、國際民用航空組織或政府間氣候變化專門委員會等模式的啟發」。
中國科學院腦啟發認知智慧實驗室的主任曾一教授對安理會表示“聯合國必須在制定 AI 發展和治理框架上扮演核心角色，以確保全球和平與安全。”曾一教授還建議安理會成立一個工作組，以研究 AI 對國際和平與安全的近期和長期挑戰。
曾一教授在他的影片簡報中強調最近的生成式 AI 系統“只是智慧的訊息處理工具”，並沒有真正的理解，因此“並不是真正的智慧”。他警告說，“AI 永遠不能假裝成人類”，堅持真正的人類必須保持尤其是所有武器系統的控制。
全球 AI 安全的未來規範
英國外交大臣詹姆斯·克雷弗利（James Cleverly）在擔任本月英國安理會主席的會議主席時表示英國將於今年秋季召集世界各國領袖舉行首次重大全球 AI 安全峰會。他說：“AI 將影響每個國家，因此我們必須涉及並吸引各個領域的國際行動的最廣泛聯盟。”他補充說：“我們的共同目標將是考慮 AI 的風險並透過協調行動減少這些風險。”
原文取自 2023 年 7 月 19 日的 Tech Xplore 新聞文章。以上內容僅為提供資訊之用，不得以任何方式進行發表、廣播、改寫或重新釋出。
延伸閱讀
- 在科技明星加速器內部的“冷戰”中，執行長 Mäelle Gavet 聘請、解僱，並為強迫改變而戰
- 科技巨頭 xAI 競爭開放人工智慧，吸金 60 億美元。推動社交網路 X 成為股東
- Uber 和 Nvidia 支援的 Serve Robotics 以 4,000 萬美元的鉅額進軍公開市場
- 美歐達成協議，共同加固人工智慧安全與風險研究
- 大型科技公司組成新聯盟以消除人工智慧取代工作的恐懼
- 標普技術公司 IPO 檔案暗示科技公司重返公開市場
- 大型科技公司在新的反壟斷時代的口頭攻防策略指南
- 前 Nextdoor 執行長籌集 2500 萬美元支援 PipeDreams：一家整合暖通空調公司的新創公司
- 穩定 AI 執行長辭職，因為你無法用更集中的 AI 來擊敗中央集權的 AI
- 直觀機器公司計畫於 2024 年實現第二次登月任務
