全球 AI 領袖警告 AI 可能引發滅絕風險
數百名 AI 科學家、學者、科技公司 CEO 和公共人物，從 OpenAI CEO Sam Altman、DeepMind CEO Demis Hassabis、老將 AI 電腦科學家 Geoffrey Hinton、MIT 的 Max Tegmark 和 Skype 的共同創始人 Jaan Tallinn，到音樂家 Grimes 和大眾化播客主持人 Sam Harris 等，都在一份宣告中簽名，敦促全球關注存在的滅絕風險。
宣告主張，應將 AI 滅絕風險視為核災禍害等社會規模風險的全球性重點。然而最近幾個月以來，聲音越來越大，AI 浪潮也正在推動 AI 風險的擴大，AI 研究者警告“超智慧”殺手 AI 風險。該宣告的全文為：“應將 AI 滅絕風險視爲全球性社會規模風險的重點，與其他如大流行和核戰爭等風險並列。”
AI 領袖公開警告
聲稱這份宣告被保持“簡明扼要”，因爲這些聲音將“一些高級 AI 的最嚴重風險”問題沉沒，並影響了討論 AI 滅絕風險的程式。尤其是近幾個月以來，多次高調地警告 AI 風險，人工智慧研究中心扮演了推動新一輪警告 AI 滅絕風險的角色。
在第一段中提到，討論滅絕風險會被 AI 巨頭們用來切入監管並分心，而今天如果我們仔細思考那些人工智慧已經造成的現有危害問題，這些熱炒標題的話題會分散注意力。這些現有危害問題包括其工具自由使用未獲許可的版權資料來訓練 AI 系統、侵犯人們的隱私和個人資料等。
AI 分析歷史
此外也存在內在缺陷，如誤導和偏見的風險（自動歧視）。這些現有危害問題是 AI 現有市場結構和支配性權力的顯著問題。
值得注意的是，在英國首相和多位主要人工智慧執行官（包括 Altman 和 Hassabis）之間的會議後，有關政府似乎正在轉變 AI 監管的態度，倫敦的《衛報》報道了突然關注機器人滅絕風險等相關內容。
總之這不僅阻礙了 AI 貢獻的推廣，也分散了注意力，更改從現有危害問題到 AI 風險的關注。因此我們需要轉變人們的態度，專注於如何進一步集中財富和力量。AI 巨頭公司的商業動機，分散 AI 滅絕風險談話，將 AI 的潛在“感知”作爲一個誘餌，使立法者注意到眼前更根本的競爭和反壟斷考慮。資料利用並非是獲取市場權益的一種新方式。
結論
因此宣告提供了一個自我的暗示，而不是公共福利。除了要求立法者減輕風險之外，還透過同時積極進行籌款來影響未來緩解防護欄的形狀。
從上面的分析中可以得出結論，要找出最佳解決方案並對其進行開發，而這些前提是要避免 AI 滅絕風險變得更加糟糕。議員們在討論行業影響時，不應專注於領域語言或概念，而是應將注意力轉向解決方案以解決現有問題。
延伸閱讀
- 「不鏽鋼」幫助 OpenAI、Anthropic 等公司構建其 API 的 SDK
- OpenAI 計劃在東京設立新辦事處、特斯拉裁員數千人
- OpenAI 宣布東京辦公室成立，並推出日文最佳化的 GPT-4 模型
- OpenAI 擴大自定義模型訓練計劃
- 前 Snap AI 主席推出 Higgsfield，挑戰 OpenAI 的 Sora 影片生成器
- OpenAI 的創辦人 Sam Altman 放棄對於 Startup Fund 的控制權，解決不尋常的企業投資結構
- OpenAI 的聊天機器人商店充斥垃圾訊息
- OpenAI 的與出版商的交易可能對競爭對手構成麻煩
- OpenAI 副總裁拒絕透露藝術家是否該拿到訓練資料費用
- OpenAI 公布新董事會成員，並恢復 CEO Sam Altman 職位
