聯合國成立高級委員會探索人工智慧治理
人工智慧（AI）的潛力和風險正在引起權力機構的關注。關鍵問題在於，如果出現失誤，這些機構將對進展的推動產生多大的影響。昨天，聯合國宣佈成立一個新的 AI 諮詢委員會，由來自政府、學術界和工業界的 38 位專家組成，旨在「進行分析並提出國際 AI 治理的建議」。聯合國表示該諮詢委員會將擔任一個橋樑的角色，涵蓋聯合國其他圍繞 AI 的倡議。據我們所知，在制定 AI 戰略和方法方面，聯合國在這個月的大部分時間內一直在與行業領袖和其他利益相關方進行對話。該計劃的目標是在 2024 年夏季，也就是聯合國計劃舉辦「未來高峰會」的時候，匯總 AI 的建議。新的諮詢委員會今天首次開會。聯合國表示該機構將負責「建立全球科學共識，關於風險和挑戰，幫助將 AI 應用於可持續發展目標，加固 AI 治理的國際合作。」
委員會的定位和重要性
這個諮詢委員會最引人注目的是在這些早期階段，它的定位大致是積極的。當前有許多人正在談論 AI 的風險，無論是國家安全威脅、資料保護還是假訊息。下週，全球領袖和該領域的專家將齊聚英國，試圖在 AI 安全峰會上解決其中一些問題。當前尚不清楚這些國家和國際層面上的倡議將如何合作以及是否能夠在自己的管轄範圍之外實施任何政策。但與聯合國的精神保持一致，這個由 38 人組成的委員會（名單包括 Alphabet/Google 和微軟的高管、一位「數位人類學家」、一些教授和政府官員）具有高級水平，以積極建設的態度，重點放在國際發展上。“AI 可以為人類帶來非凡的進步。從預測和應對危機，到推出公共衛生計劃和教育服務，AI 可以在各個範疇中擴大並放大政府、公民社會和聯合國的工作，”聯合國祕書長安東尼奧·古特雷斯（António Guterres）關於該委員會的目標表示道：“對於發展中經濟體來說 AI 提供了越過過時技術的可能性，並將服務直接提供給最需要的人們。AI 對於善行的轉變潛力甚至難以想象。"聯合國稱該委員會具有「橋樑」的角色，未來可能參與更多公開探討「AI for good」之外的議題。
對 AI 風險的關切
Gary Marcus 是一位參與 Disrupt 會議的講者，他在九月份的演講中談到了 AI 的風險，他從紐約匆忙趕到與聯合國官員會晤的 San Francisco。雖然新興領域如生成式 AI 的創新確實將技術置於大眾市場的中心，但 Marcus 對挑戰的描述突顯了一些更令人擔憂的方面：“我對 AI 的最大短期擔憂是大量故意製造的假訊息將削弱民主，之後會發生各種事情，”他在上個月表示“我對長期的最大擔憂是我們不知道如何控制我們正在建立的 AI，也不知道如何控制我們將來要建立的 AI。這讓機器執行了我們本不打算讓它們執行的任務。”
委員會成員名單
- Anna Abramova，莫斯科國際關係大學大學 AI 中心主任，俄羅斯聯邦
- Omar Sultan al Olama，阿聯酋人工智慧部門部長，阿拉伯聯合大公國
- Latifa al-Abdulkarim，沙烏地阿拉伯諮詢委員會成員，沙特國王大學電腦科學助理教授，沙烏地阿拉伯
- Estela Aranha，巴西司法和公共安全部特別顧問，巴西聯邦政府，巴西
- Carme Artigas，西班牙數位化和人工智慧祕書，西班牙
- Ran Balicer，以色列 Clalit 健康服務首席創新官兼副總幹事，以色列
- Paolo Benanti，方濟會修士，教宗高等道明大學講師，義大利
- Abeba Birhane，Mozilla 基金會 AI 責任顧問，衣索比亞
- Ian Bremmer，歐亞集團總裁兼創始人，美國
- Anna Christmann，德國聯邦政府航空航天協調員，德國
- Natasha Crampton，微軟負責人工智慧事務的首席負責人，紐西蘭
- Nighat Dad，數位權利基金會巴基斯坦執行主任，巴基斯坦
- Vilas Dhar，Patrick J. McGovern 基金會主席，美國
- Virginia Dignum，烏美奧大學負責人工智慧的負責教授，葡萄牙/荷蘭
- Arisa Ema，東京大學副教授，日本
- Mohamed Farahat，埃及北非網際網路位址分配機構法律顧問，埃及
- Amandeep Singh Gill，聯合國祕書長技術特使，印度
- Dame Wendy Hall，南安普敦大學電腦科學王國大學教授，英國
- Rahaf Harfoush，數位人類學家，法國
- Hiroaki Kitano，索尼集團技術長，日本
- Haksoo Ko，韓國個人訊息保護委員會主席，韓國
- Andreas Krause，瑞士聯邦理工學院教授，瑞士
- James Manyika，Google 字母公司高級副總裁，辛巴威
- Maria Vanina Martinez Posse，阿根廷人工智慧研究所拉蒙和卡霍研究員，阿根廷
- Seydina Moussa Ndiaye，塞內加爾 Cheikh Hamidou Kane 數位大學講師，塞內加爾
- Mira Murati，OpenAI 技術長，阿爾巴尼亞
- Petri Myllymaki，赫爾辛基大學電腦科學系教授，芬蘭
- Alondra Nelson，高等研究所的 Harold F. Linder 教授，美國
- Nazneen Rajani，Hugging Face 首席研究員，印度
- Craig Ramlal，西印度大學聖奧古斯丁分校控制系統組負責人，千裏達及託巴哥
- He Ruimin，新加坡政府首席人工智慧官員和副首席數位技術官，新加坡
- Emma Ruttkamp-Bloem，普利託利亞大學教授，南非
- Sharad Sharma，iSPIRT 基金會聯合創始人，印度
- Marietje Schaake，斯坦福大學網路政策中心國際政策總監，荷蘭
- Jaan Tallinn，劍橋存在風險研究中心聯合創始人，愛沙尼亞
- Philip Thigo，肯亞政府顧問，肯亞
- Jimena Sofia Viveros Alvarez，墨西哥最高法院法官羅蕾塔·奧蒂茲正義的助理和首席法律顧問，墨西哥
- Yi Zeng，中國科學院腦啟發認知 AI 實驗室主任，中國
- Zhang Linghan，中國政治法律大學資料法研究所教授，中國
關鍵詞：人工智慧-聯合國、高級委員會、AI 治理、OpenAI、Google、數位人類學家
延伸閱讀
- 震撼收購：Google 豪擲重金併購 Wiz，一週回顧
- Google 提議放寬 AI 政策中的版權與出口規則，引發爭議！
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 微軟加速 AI 研發程式，直指 OpenAI 競爭對手
- 一年過去了，OpenAI 的聲音複製工具仍未問世！
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- Google 升級 Colab！全新 AI 代理工具助你提升生產力！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- OpenAI 計劃將 Sora 影片生成器整合至 ChatGPT，開啟創意新視界！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
