開放人工智慧領袖提議成立國際監管機構
由於人工智慧技術的快速發展和可能帶來的危險越來越明顯，OpenAI 的領導人認為，世界需要一個像管理核能一樣的國際監管機構。他們在公司的部落格中寫道，人工智慧的創新速度如此之快，以至於現有的管理機構無法充分控制技術的發展。 OpenAI 的創始人 Sam Altman、總裁 Greg Brockman 和首席科學家 Ilya Sutskever 解釋道，人工智慧無法自我管理。因此我們需要協調領先的開發工作，以確保超級智慧的發展方式既能保持安全，也能幫助這些系統平滑地與社會融合。他們還提出需要建立一個「國際原子能機構（International Atomic Energy Agency）」的對超級智慧的監管機構。
建立人工智慧國際監管機構
國際原子能機構是聯合國官方負責國際核能合作的機構之一。儘管僅有這樣的組織，它仍可能缺乏實質力量。建立像這種模式的人工智慧監管機構可能無法對惡意行為者進行直接控制，但它可以建立和追蹤國際標準和協議，這至少是一個開始。OpenAI 的文章指出，追蹤用於人工智慧研究的計算能力和能源消耗是相對少量的客觀指標之一，應予以報告和追蹤。它還建議監管機構可以對工業界與小型公司制定不同監管要求，以避免扼殺創新發展的機會。
面對全球公眾的需求
許多人口中的人工智慧巨頭之一，OpenAI，現在表示支援建立人工智慧國際監管機構。這表明了行業的討論和支援，以達到真正的公共監管。雖然 OpenAI 的提議只相當於「可能我們應該做點什麼」，但它至少是行業討論的起點，也表明了世界最大的人工智慧品牌和提供商對推動機構的支援。監管機構的對人工智慧的監管將是全球公眾需求的一部分，而且應該是厚重的裝置檢測、安全標準審查等過程進行的設施，以確保人工智慧技術和人類社會的持續發展。
建議和結論
隨著人工智慧技術的快速發展，監管問題越來越受到關注。 OpenAI 在提出建立人工智慧國際監管機構的問題時，呼籲行業各方在保持技術創新的同時必須嚴肅對待安全監管的問題，以確保人工智慧技術的長期發展。建立人工智慧國際監管機構是一個很好的起點，但實際執行的過程仍然很長，需要各國政府和其他行業相關方面的努力、協調和支援。對於人工智慧監管，需要考慮到普遍面向、公正的標準和對開發人員、公司和政府的審計，以確保人工智慧技術的發展符合我們的道德和社會價值觀。技術在不斷發展，但道德、法律和社會價值觀不會隨之緩慢發展，建立監管人工智慧技術發展的監管機構是迫切需要的，也是大勢所趨。
延伸閱讀
- 「不鏽鋼」幫助 OpenAI、Anthropic 等公司構建其 API 的 SDK
- OpenAI 計劃在東京設立新辦事處、特斯拉裁員數千人
- OpenAI 宣布東京辦公室成立，並推出日文最佳化的 GPT-4 模型
- OpenAI 擴大自定義模型訓練計劃
- 前 Snap AI 主席推出 Higgsfield，挑戰 OpenAI 的 Sora 影片生成器
- OpenAI 的創辦人 Sam Altman 放棄對於 Startup Fund 的控制權，解決不尋常的企業投資結構
- OpenAI 的聊天機器人商店充斥垃圾訊息
- OpenAI 的與出版商的交易可能對競爭對手構成麻煩
- OpenAI 副總裁拒絕透露藝術家是否該拿到訓練資料費用
- OpenAI 公布新董事會成員，並恢復 CEO Sam Altman 職位
