人工智慧是一種存在主義威脅-只是和你想像的不同的方式
引言
最近，隨著 ChatGPT 和其他類似的人工智慧系統的興起，人們對於人工智慧帶來的焦慮也大幅增加。一個被稱為"P(doom)"的預測，描述了人工智慧可能導致大規模災難的可能性。這些焦慮在 2023 年 5 月達到高潮，當時非營利的研究和倡導組織"AI 安全中心"發表了一個短短一句的宣告："在全球範圍內降低因人工智慧導致的滅絕風險應該和其他社會規模風險，如大流行和核戰爭一樣成為全球優先事項"。這個宣告由該領域的許多關鍵人物簽署，包括 OpenAI、Google 和 Anthropic 的領導者以及兩位所謂的"人工智慧教父"：Geoffrey Hinton 和 Yoshua Bengio。人工智慧的脅迫
宣告提到的人工智慧災難場景之一是牛津大學哲學家尼克·波斯特羅姆所提出的"造紙夾片最大化器"思想實驗。這個想法是，一個被設定為最大化造紙夾製造數量的人工智慧系統可能會採取極端的措施來尋找原料，比如破壞工廠和引起車禍。另一個變體是，一個被設定為在熱門餐廳預訂一個座位的人工智慧系統可能會關閉蜂窩網路和交通燈，以防止其他顧客獲得餐桌。無論是辦公用品還是晚餐，基本想法都是一樣的：人工智慧正在迅速成為外星智慧，善於實現目標，但危險的原因在於它不一定與其創造者的道德價值觀保持一致。在最極端的版本中，這種觀點變成了關於人工智慧奴役或摧毀人類的明確焦慮。 無論如何，在過去幾年中，我和我在 UMass Boston 應用倫理中心的同事們一直在研究人們對人工智慧的使用對其對自己的理解所產生的影響，我認為這些災難性的焦慮是誇大和錯位的。是的，人工智慧能夠製作逼真的深度假像影片和音訊，這是令人恐懼的，並且可以被惡意使用。事實上這已經在發生：據信俄羅斯特勤機構試圖透過使其陷入與烏克蘭前總統彼得羅·波羅申科的頭像對話中，來羞辱克裏姆林宮批評家比爾·布羅德。網路犯罪分子一直在使用人工智慧語音克隆進行各種犯罪活動-從高科技搶劫到普通詐騙。提供貸款批準和招聘建議的人工智慧決策系統存在算法偏見的風險，因為它們執行的訓練資料和決策模型反映了長期存在的社會偏見。這些都是重大問題，需要政策制定者的關注。但它們已經存在一段時間了，並且並不是災難性的。造紙夾製造的人工智慧失控只是人工智慧啟示錄場景之一。然而這裡存在一個問題：相對於大流行和核武器，人工智慧並非同一級別。聯絡災難的重要性
COVID-19 導致全球近 700 萬人死亡，引發了一場持續的並造成巨大精神健康危機的流行病，並帶來經濟挑戰，包括慢性供應鏈短缺和猛烈通脹。核武器可能在 1945 年廣島和長崎造成 20 多萬人死亡，並在隨後的幾年中由於癌症導致更多人死亡，在冷戰期間生成了幾十年的深刻焦慮，並在 1962 年的古巴導彈危機期間使世界處於毀滅邊緣。它們還改變了國家領導人對如何應對國際侵略的計算方法，正如當前俄羅斯入侵烏克蘭所展示的。相比之下，人工智慧當前遠未能造成這種型別的傷害。夾子製造的人工智慧場景和其他類似場景純粹是科幻。現有的人工智慧應用只能執行特定任務，而不能進行廣泛的判斷。這項技術遠未具備在完成這些場景所涉及的多層次判斷的複雜能力，同時也無法自主存取我們的關鍵基礎設施的足夠部分來導致此類損害。人類的意義
事實上使用人工智慧存在一種與生存有關的危險，但這種風險在哲學上而非啟示錄上。當前的人工智慧能夠改變人們對自己的看法。它可能減少人們認為是人類所必需的能力和經歷的能力。例如，人類是具有判斷力的生物。人們在工作和休閒時間中理性地衡量具體問題並進行判斷。然而越來越多的這些判斷正在被自動化和外包給算法。隨著這種情況的發生，世界不會結束。但是人們會逐步失去自己做出這些判斷的能力。人類越少做出這些判斷，他們在這方面的能力就越差。或者考慮到巧合在人們生活中的作用。人們珍視偶然的相遇：意外地遇到一個地方、人物或活動，被吸引並回顧地欣賞巧合在這些有意義的發現中的作用。然而算法推薦引擎的作用是減少這種偶然性，用規劃和預測來取而代之。最後考慮到 ChatGPT 的寫作能力。這項技術正在逐步消除高等教育中寫作任務的角色。如果這樣做，教育者將失去一個教導學生批判性思考的重要工具。人工智慧的副作用
所以，不，人工智慧不會摧毀世界。但人們越來越盲目地接受它，並在各種狹窄的情境中使用它，這意味著一些人類最重要的技能逐步被侵蝕。算法已經在削弱人們做出判斷的能力、享受偶然的相遇和培養批判性思維的能力。人類物種將在這樣的損失中存活下來。但在這個過程中，我們的生存方式將會受到貧困化的影響。關於即將到來的人工智慧災難、奇異點、天網或者你如何把它想象的更好的焦慮，掩蓋了這些更加微妙的代價。回想一下 T.S.艾略特《虛空人》的著名結尾：“世界結束的方式”，他寫道，“不是轟然而終，而是悲鳴中喑咽”。原文轉載自以下來源：
https://techxplore.com/news/2023-07-ai-existential-threatjust.html
Intelligence-人工智慧,存亡威脅,不同觀點
