人工智慧：公共安全的新風險
引言
自人工智慧技術出現以來，人們一直將其視為科技進步的裏程碑，但同時也引發了人工智慧對公共安全的風險。現代緊急管理師的工作集中於自然災害、工業事故、恐怖襲擊和經濟危機等方面，而缺乏對人工智慧所帶來的風險的預估和準備。因此本文將著重探討人工智慧對公共安全所帶來的問題和風險以及如何應對這些挑戰。
分析
人工智慧的風險與分類
人工智慧的風險可以分為兩類：有意和無意的風險。無意風險是由人為錯誤或技術失敗引起的。隨著人工智慧的不斷增加，導致人工智慧模型中的人為錯誤或技術故障增加，而這些事件可能發生在各種行業，包括運輸、電力、銀行、健康和礦業等。有意風險是潛在的威脅，是透過利用人工智慧來傷害人民和財產，或者透過破壞系統的安全性和安全措施來獲取非法利益。但是本文認為，這種簡單的有意和無意的分類在人工智慧方面可能不夠。在此，我們需要新增一個新的新興威脅類別 - 人工智慧接管人類的控制和決策。這可能是有意或無意觸發的。許多人工智慧專家已經對潛在的威脅發出警告，最近一封由研究人員、科學家和其他人開發的人工智慧開放訊號稱需要暫停其進一步發展。
人工智慧的公共安全風險
公共安全和緊急管理專家使用風險矩陣來評估和比較風險。使用這種方法，根據風險的頻率和影響力進行風險的定性或定量評估，將風險的影響分為低、中和高。低頻率和低影響力的風險被認為是低風險，並且不需要採取額外的措施來管理它們。中等影響力和中等頻率的風險被認為是中等風險。這些風險需要密切監控。頻率或影響力高或高等頻率和影響力或兩者均為高的風險被歸類為高風險。需要透過採取額外的風險減少和減輕措施來減少這些風險。如果不能立即採取適當措施，可能會導致嚴重的人員和財產損失。到當前為止，人工智慧風險和風險已經沒有超出組織使用人工智慧應用的風險評估矩陣。現在是時候迅速開始將潛在的人工智慧風險納入本地、國家和全球風險和緊急管理之中。
人工智慧的風險評估
各機構、組織和公司在不同行業中越來越廣泛地使用人工智慧技術，相關風險也開始浮現。 2018 年，審計公司畢馬威公司開發了一個“人工智慧風險和控制矩陣”。它強調了企業使用人工智慧的風險，敦促企業認識到這些新興風險。該報告警告說，人工智慧技術正在迅速進步，風險控制措施必須在其成為無法控制的情況下制定。政府也開始為基於人工智慧的技術和解決方案制定一些風險評估指南。然而這些指南僅限於風險，如演算法偏見和侵犯個人權利。在政府層面上，加拿大政府發布了《自動化決策指令》，以確保聯邦機構最小化與人工智慧系統相關的風險，並建立適當的治理機制。指令的主要目標是確保在部署人工智慧系統時，減少對客戶、聯邦機構和加拿大社會的風險。根據此指令，每個部門都必須進行風險評估，以確保按照《政府安全政策》的規定制定適當的防範措施。2021 年，美國國會授予國家標準技術研究所為國防部門制定人工智慧風險管理框架的任務。建議的志願者人工智慧風險評估框架建議禁止使用存在無法接受風險的人工智慧系統。
評論和建議
當前，人工智慧技術的發展速度比政府和公司的政策和對風險的理解更快。加上市場對人工智慧技術的競爭，使得政府很難想到停止並開發風險治理機制的機會。因此我們必須共同積極地嘗試建立這樣的風險治理機制，並為我們的系統和社會上人工智慧可能帶來的重大災難影響做好準備。在這方面，企業和政府應該加固對人工智慧的風險評估、測試和監測。此外加大對人工智慧領域的研究和開發，並透明公開地進行研究報告，以利推動整個行業的發展。如此才能確保人工智慧技術帶來的轉型和進步真正符合社會和公共利益。
延伸閱讀
- 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
- 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- 探索 DeepSeek：你必須理解的 AI 聊天機器人應用全指南！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
- 未來科技：研究人員揭示如何打造變形機器人，猶如 T-1000 般神奇！
- ElevenLabs 推出全新語音轉文字模型，引領 AI 語音技術的新潮流！
