全球 AI 領袖警告 AI 可能引發滅絕風險
數百名 AI 科學家、學者、科技公司 CEO 和公共人物，從 OpenAI CEO Sam Altman、DeepMind CEO Demis Hassabis、老將 AI 電腦科學家 Geoffrey Hinton、MIT 的 Max Tegmark 和 Skype 的共同創始人 Jaan Tallinn，到音樂家 Grimes 和大眾化播客主持人 Sam Harris 等，都在一份宣告中簽名，敦促全球關注存在的滅絕風險。
宣告主張，應將 AI 滅絕風險視為核災禍害等社會規模風險的全球性重點。然而最近幾個月以來，聲音越來越大，AI 浪潮也正在推動 AI 風險的擴大，AI 研究者警告“超智慧”殺手 AI 風險。該宣告的全文為：“應將 AI 滅絕風險視爲全球性社會規模風險的重點，與其他如大流行和核戰爭等風險並列。”
AI 領袖公開警告
聲稱這份宣告被保持“簡明扼要”，因爲這些聲音將“一些高級 AI 的最嚴重風險”問題沉沒，並影響了討論 AI 滅絕風險的程式。尤其是近幾個月以來，多次高調地警告 AI 風險，人工智慧研究中心扮演了推動新一輪警告 AI 滅絕風險的角色。
在第一段中提到，討論滅絕風險會被 AI 巨頭們用來切入監管並分心，而今天如果我們仔細思考那些人工智慧已經造成的現有危害問題，這些熱炒標題的話題會分散注意力。這些現有危害問題包括其工具自由使用未獲許可的版權資料來訓練 AI 系統、侵犯人們的隱私和個人資料等。
AI 分析歷史
此外也存在內在缺陷，如誤導和偏見的風險（自動歧視）。這些現有危害問題是 AI 現有市場結構和支配性權力的顯著問題。
值得注意的是，在英國首相和多位主要人工智慧執行官（包括 Altman 和 Hassabis）之間的會議後，有關政府似乎正在轉變 AI 監管的態度，倫敦的《衛報》報道了突然關注機器人滅絕風險等相關內容。
總之這不僅阻礙了 AI 貢獻的推廣，也分散了注意力，更改從現有危害問題到 AI 風險的關注。因此我們需要轉變人們的態度，專注於如何進一步集中財富和力量。AI 巨頭公司的商業動機，分散 AI 滅絕風險談話，將 AI 的潛在“感知”作爲一個誘餌，使立法者注意到眼前更根本的競爭和反壟斷考慮。資料利用並非是獲取市場權益的一種新方式。
結論
因此宣告提供了一個自我的暗示，而不是公共福利。除了要求立法者減輕風險之外，還透過同時積極進行籌款來影響未來緩解防護欄的形狀。
從上面的分析中可以得出結論，要找出最佳解決方案並對其進行開發，而這些前提是要避免 AI 滅絕風險變得更加糟糕。議員們在討論行業影響時，不應專注於領域語言或概念，而是應將注意力轉向解決方案以解決現有問題。
延伸閱讀
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 微軟加速 AI 研發程式，直指 OpenAI 競爭對手
- 一年過去了，OpenAI 的聲音複製工具仍未問世！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- OpenAI 計劃將 Sora 影片生成器整合至 ChatGPT，開啟創意新視界！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
- 「OpenAI 為付費 ChatGPT 使用者推出深度研究功能，探索智慧對話的新境界！」
- 《OpenAI 為何尚未將深度研究成果引入其 API？背後原因大揭密！》
- OpenAI 計劃將計算需求從微軟轉移至軟銀，背後的戰略考量曝光！
