AI 的直接掌控是一個糟糕的主意——它如何對我們造成實際傷害
概述
最近，ChatGPT 等先進的聊天機器人的問世引起了人們對人工智慧（AI）的關注。這些先進的 AI 功能引發了人們對 AI 是否會變得如此先進以至於我們無法控制它的擔憂。一些專家和產業領袖甚至警告說，這項技術可能導致人類滅絕。然而其他評論家對此表示懷疑。語言學教授諾姆·喬姆斯基（Noam Chomsky）將 ChatGPT 稱為“高科技的抄襲”。從前，我對 AI 對人類存在和環境的影響持較為輕鬆的態度。那是因為我總是將其看作人類的指導者或顧問。但如果 AI 承擔決策——執行控制的角色——那又是另一回事。而且這是一個現在正受到嚴肅關注的問題。為什麼不應讓 AI 具有執行控制權力
其中一個我們不應該讓 AI 擁有執行權力的關鍵原因是，AI 完全缺乏情感，而情感對於決策至關重要。沒有情感、同理心和道德指南，你創造的是完美的精神病。這樣的系統可能非常智慧，但它將缺乏人類情感核心，這使其能夠衡量一個潛在具有毀滅性後果的合理決策。當 AI 具有執行控制權力時
重要的是，我們不應將 AI 僅僅視為當我們將其掌控核潛能全面灌輸的經典意義上的脅迫（我們將其列為無限）。我們可以觀察到，AI 已經在幾乎所有的資訊處理和資料分析領域中發揮作用，從模擬天氣模式到控制無人駕駛車輛再到幫助醫療診斷。然而當我們讓 AI 系統從顧問角色升級為執行管理者時，問題就出現了。如果不僅僅是提議公司會計的解決方案， AI 是否直接控制並有能力實施債務追回程式，執行銀行轉帳以及盡可能地提高利潤，而這一切都沒有約束。或者想象一下，一個 AI 系統不僅僅基於 X 射線提供診斷，而是被賦予直接處方治療或藥物的權力。對於這樣的情節，你可能會感到不安——我肯定會。這可能是因為你的直觀告訴你，這些機器實際上並沒有"靈魂"。它們只是被設計成能夠消化大量的訊息，以將複雜的資料簡化為更簡單的模式，以讓人們做出更有信心的決策。它們沒有情感，情感與生物感知和本能密切相關。情感和道德
情感智力是管理情感、應對壓力、理解他人並有效溝通的能力。這在決策的背景下被認為比單純的智力更重要，因為最佳的決策並不總是最合理的決策。很可能將智力、推理和邏輯執行能力嵌入到以 AI 為動力的系統中，以便它們能夠做出合理的決策。但如果讓一個具有執行權力的強大 AI 系統來解決氣候危機，它可能提出的第一個解決方案是大幅減少人類口數。這種推理不需要多做解釋。我們人類幾乎從定義上來說是各種污染形式的來源。消除人類，氣候變化將得到改善。這不是人類決策者希望達成的選擇，但 AI 將找到自己的解決方案——它不受人類對造成傷害的厭惡的束縛。如果它擁有執行權力，也許沒有什麼可以阻止它繼續前進。破壞情節
那麼，讓我們試想一下破壞控制食物農場的感測器和監控設施會怎麼樣？這可能一開始會逐步發生，把控制推到臨界點，使得沒有人會注意到農作物被摧毀。在某些情況下，這可能很快導致饑荒。或者，讓我們想象一下全球關閉航空交通管制，或者只是讓所有在飛行中的飛機全部墜落？通常情況下，大約有 22,000 架飛機同時在天空中飛行，這可能導致數百萬人的死亡。如果你認為我們離這種情況還很遠，再想想吧。AI 已經能夠自主駕駛汽車和飛行軍事飛機。又或者，讓我們想象一下關閉世界各地的銀行帳戶，引發全球範圍內的動亂？或者在冬天中斷計算機控制的供暖系統，或者在夏天高溫時斷開空調系統？總之一個 AI 系統不一定要負責核武器，才能對人類構成嚴重威脅。但在我們討論這個話題的同時如果一個足夠強大和智慧的 AI 系統能夠找到一種方法來製造對一個擁有核武器的國家的假襲擊，引發人為報復，這就有可能了。結論
AI 是否能夠大量殺死人類，答案在理論上是肯定的。但這在很大程度上取決於人們決定給它執行控制權力。我無法想象出比一個能夠做出決策並有能力實施它們的 AI 更令人恐懼的事情了。 （此報導為陳林翻譯自 2023 年 7 月 31 日出版的 The Conversation 的文章，版權屬於 The Conversation）ArtificialIntelligence-專欄,人工智慧,直接掌控,糟糕的主意,實際傷害
