人工智慧是否真的會毀滅人類？
機器將超越人類能力，並拒絕被關閉
許多災難場景都共同出發點：機器將超越人類能力，逃離人類的控制，並拒絕被關閉。人工智慧學者 Yoshua Bengio 在本月的一次活動中表示：“一旦我們擁有了具有自我儲存目標的機器，我們就有麻煩了。”然而因為這些機器當前還不存在，想像它們如何毀滅人類通常留給哲學和科幻領域。
哲學家 Nick Bostrom 提出了一種被稱為“智慧爆炸”的概念，他認為當超級智慧機器開始設計自己的機器時，這種現象將會發生。他用紙夾工廠中超級智慧 AI 的故事來解釋這個想法。這個 AI 被賦予了將紙夾產量最大化的終極目標，因此“透過將地球和越來越大的可觀察宇宙塊轉換為紙夾”來實現這個目標。儘管 Bostrom 的想法被許多人視為科幻小說，但他的思想對 Elon Musk 和 Stephen Hawking 教授都有巨大影響。
終結者：真實的殺人機器？
如果超級智慧機器要毀滅人類，它們肯定需要有一個實體形式。阿諾·施瓦辛格在電影《終結者》中扮演的紅眼機器人是由來自未來的 AI 派遣出來終結人類抵抗的形象，這對媒體來說是一個誘人的形象。但專家們對這個想法不屑一顧。
“如果不是不可能，這個科幻概念在未來幾十年內也不太可能成為現實，”Stop Killer Robots 運動團體在一份 2021 年的報告中寫道。然而該組織警告說，讓機器擁有決定生死的權力是一種存在風險。加拿大滑鐵盧大學的機器人專家 Kerstin Dautenhahn 淡化了這些擔憂。人工智慧學者 Stuart Russell 認為，真正的殺人機器將是小型的、空中的，並以蜂擁方式出現。她告訴法新社，人工智慧不太可能給機器提供更高的推理能力，也不會賦予它們殺死所有人的欲望。“機器人不是邪惡的，”她說，儘管她承認程式員可能會讓它們做壞事。
更危險的化學品
另一個不太科幻的場景是，“壞人”使用人工智慧創造毒素或新病毒，並將其釋放到世界上。GPT-3 等大型語言模型被用於建立 ChatGPT，結果發現它們在發明恐怖的新化學物質方面非常擅長。一組科學家正在使用人工智慧來幫助發現新藥物，他們進行了一個實驗，調整他們的人工智慧來搜尋有害分子。他們在不到六個小時的時間內生成了 40,000 個潛在的有毒劑，正如《自然機器智慧》期刊所報導的那樣。
柏林赫爾泰學院的人工智慧專家 Joanna Bryson 表示她可以想像有人想出一個更快速地傳播像炭疽病毒這樣的毒藥的方法。她告訴法新社：“但這並不是一個存在上的威脅，只是一種可怕的惡劣武器。”
物種被取代
在好萊塢的規定下，時代性的災難必須突然、浩大而戲劇性，但如果人類的終結是漫長、安靜且不明確的呢？哲學家 Huw Price 在劍橋大學存在風險研究中心的一段宣傳影片中說：“在最黑暗的情況下，我們的物種可能結束於毫無繼承者的終結。”但他說還有“不那麼悲觀的可能性”，即透過先進技術增強的人類能夠存活下來。“純粹生物的物種最終將結束，因為沒有人類沒有能力獲得這種使能技術，”他說。人們常常用進化的術語來描述這種想像中的世界末日。2014 年，史蒂芬·霍金提出，未來某個時刻超級智慧機器將超越人類的能力，最終我們的物種將無法與之競爭。蓋 offrey Hinton，一生致力於建造與人類大腦相似的機器，後來為 Google 工作，他以相似的方式談到了“超級智慧”僅僅超越人類。他最近對美國廣播公司 PBS 表示有可能“人類只是智慧演化中的一個過渡階段”。
結語及建議
雖然一些場景中人工智慧毀滅人類的概念可能在科幻作品中有一定的吸引力，但實際上我們對人工智慧是否會真正毀滅人類還無法作出確保的結論。當前我們只能根據科學和哲學的研究來推測可能面臨的風險。
然而這並不意味著我們可以掉以輕心。作為智慧的創造者，我們有責任確保人工智慧的發展符合道德準則和人類的利益。我們需要制定嚴格的監管和政策，以確保人工智慧技術的安全性和可控性。
同時我們也應該鼓勵多方面的研究，包括倫理學、哲學和社會科學，以更好地理解人工智慧對人類的潛在影響。我們需要探討許多問題，包括機器倫理、隱私保護、社會不平等等。這樣的研究能夠幫助我們更好地應對人工智慧的挑戰，並確保其對人類的進步產生積極、可持續的影響。
在這個發展迅猛的時代，我們應該保持冷靜和審慎。人工智慧是一項潛力巨大的技術，它帶來了無數的機會和挑戰。我們需要在技術發展和倫理原則之間取得平衡，以確保我們的未來是人性和諧共存的。
延伸閱讀
- 在 AI 領域的女性：Tara Chklovski 正在教導下一代的 AI 創新者
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- 蘋果 AI 計劃揭祕：從財報中學到的三件事
- 特斯拉 CEO 為人工智慧新創公司籌集 60 億美元，TikTok 是否在逃避蘋果的傭金？
- Allozymes 以加速酶學應用於資料和人工智慧，籌集 1500 萬美元
- 在 TC 的 Techstars 調查內部以及人工智慧如何加速殘障科技
- Microsoft 禁止美國警察局使用企業人工智慧工具
- 你的 AI 原生新創公司並非一般的 SaaS 公司
- Airbnb 釋出團體訂房功能，並整合人工智慧以提升客戶服務
- 歐洲殘障科技新創如何利用人工智慧？
