對塑造人工智慧辯論的「危險」意識形態之爭
引言
立足於長期主義（longtermism）的哲學觀點，特斯拉的埃隆·馬斯克（Elon Musk）等人聲稱，人工智慧可能導致人類滅絕，同時他們也主張只有他們的產品才能拯救我們，這一立場引發了激烈的辯論。在矽谷，長期主義一直是風靡的哲學，該思潮將人工智慧辯論的焦點放在人類滅絕的想法上。然而越來越多的批評者警告說，這種哲學是危險的，對滅絕的迷戀掩蓋了與人工智慧有關的真正問題，比如資料盜竊和有偏見的算法。本文將討論長期主義、它的批評以及與人工智慧未來有關的公眾辯論。長期主義作為一種「危險」哲學
長期主義認為，我們有義務努力為最多數的人類產生最佳結果。這和 19 世紀的自由主義沒有什麼不同，但長期主義將時間線延伸得更遙遠。他們展望未來，看到有數以兆計的人類在宇宙中漂浮，殖民新世界。他們主張，我們對未來的每一個人都應該負有與對今天的人一樣的義務。由於未來人類的數量非常龐大，他們的價值比今天的人要大得多。批評者 Emile Torres 表示這種思維使得這一意識形態「極為危險」。Torres 是一名曾經信仰長期主義但現已成為該運動的批評者，他在接受法新社的存取中表示這種哲學基於過去用來合理化大規模屠殺和種族滅絕的原則。然而長期主義及其相關的意識形態，如超人類主義（transhumanism）和有效利他主義（effective altruism），在從牛津到斯坦福的大學和整個科技行業都有巨大影響力。飛致總匯（Venture capitalists）像彼得·泰爾（Peter Thiel）和馬克·安德森（Marc Andreessen）已經投資了與該運動相關的壽命延長公司和其他個人專案。埃隆·馬斯克和 OpenAI 的 Sam Altman 已簽署公開信警告說，人工智慧可能導致人類滅絕，盡管他們在爭辯中只有他們的產品能拯救我們。最終批評者表示這種邊緣運動對於公眾對人類未來的辯論產生了過大的影響力。長期主義的危險性
Torres 認為，長期主義認為我們有義務為最多數的人類產生最佳結果，這和 19 世紀的自由主義沒有什麼不同，但長期主義將時間線延伸得更遙遠。長期主義者展望未來，看到有數以兆計的人類在宇宙中漂浮，殖民新世界。他們主張，我們對未來的每一個人都應該負有與對今天的人一樣的義務。由於未來人類的數量非常龐大，他們的價值比今天的人要大得多。然而這種思維使得這一意識形態「極為危險」。這種想法將未來的價值無限放大，結合功利主義的道德思維，即目的可以彌託手段，這是危險的。如果一個超智慧機器即將誕生，有可能摧毀人類，長期主義者必定會反對它，不管結果如何。當一個 Twitter 使用者在三月份問及到底需要多少人犧牲來阻止這一機器誕生時，長期主義者 Eliezer Yudkowsky 回答說，只需要足夠的人類「形成一個可行的生育人口」。他寫道：「只要這是真實的，總還有一天可以達到星際航行的機會。」儘管後來他刪除了這條訊息。長期主義與優生學的爭議
長期主義起源於瑞典哲學家尼克·伯斯特羅姆（Nick Bostrom）在 20 世紀 90 年代和 21 世紀初就存在的存在風險和超人類主義等問題上所做的工作。學者 Timnit Gebru 指出，超人類主義從一開始就與優生學聯絡在一起。英國生物學家朱利安·赫胥黎（Julian Huxley）創造了超人類主義一詞，他也曾在 20 世紀 50 年代和 60 年代擔任過英國優生學協會的主席。「長期主義是以另一個名稱出現的優生學」，Gebru 去年在 X 上寫道。伯斯特羅姆長期以來一直面臨支援優生學的指控，因為他列舉「優基壓力」為一種存在風險，即不太聰明的人比聰明的人更快地繁殖。作為牛津大學未來生命研究所的負責人，他在今年一月承認自己在 90 年代的一個網路論壇上寫過種族主義言論，隨後道歉。他在道歉信中寫道:「我支援優生學嗎？不，不是按照常見的理解。」他指出，優生學被用來辯護「上個世紀一些最可怕的暴行」。辯論焦點的轉移
然而儘管伯斯特羅姆等一直受到推崇，例如文筆犀利以及寫過哈利波特同人小說和推廣多伴侶制度的 Yudkowsky，Altman 認為他應該獲得諾貝爾和平獎。但 Gebru、Torres 和許多其他人都試圖重新將焦點放在像藝術家作品被盜、偏見和財富集中在少數企業手中等損害上。Torres 在存取中表示雖然有一些真正的信仰者，如 Yudkowsky，但圍繞滅絕的辯論大多是出於利潤考量。「談論人類滅絕、一場真正的會讓每個人都死去的世界末日事件，比談肯亞工人每小時 1.32 美元的工資或藝術家和作家的剝削問題更具聳人聽聞和吸引力」，他說道。社論與建議
關注真實問題
在人工智慧的辯論中，長期主義的聲音在一定程度上壟斷了網路，將注意力集中在人類滅絕的可能性上。然而這種迷戀對人工智慧有關的真實問題產生了很大誤導作用。例如，資料盜竊、有偏見的算法以及財富集中在少數公司手中等問題，都對當代社會產生了深遠的影響。因此我們應該重新關注這些真實問題，提高公眾對這些問題的關注度，並推動相關政策的制定和執行。謹慎對待哲學思潮
長期主義及其相關的思潮（如超人類主義和有效利他主義）在大學和科技行業中擁有巨大影響力，這些思潮影響了人們對人工智慧未來的看法。然而我們應該謹慎對待這些思潮，並評估它們對個人和社會的潛在影響。我們不能讓某種意識形態成為辯論的主導，忽視了其他同樣重要的議題。在這個全球化時代，我們應該追求多元化的思維，並充分考慮各種可能的未來發展情景。促進平衡的討論
在討論人工智慧發展的同時我們應該鼓勵並促進平衡的討論。這意味著我們需要聽取各種觀點，包括長期主義者、批評者和其他相關利益相關者的聲音。只有這樣，我們才能充分理解不同立場的長處和短處，並做出明智的決策。建立一個開放、透明的討論平臺，鼓勵多方參與，將有助於避免極端立場的極化和對話的僵局。 在探索人工智慧的未來，仍需進行更深入的研究和討論。我們必須認識到，人工智慧將對社會、經濟和道德產生重大影響。因此我們需要綜合各種觀點來制定相應的政策，以確保人工智慧的發展符合人類的整體利益。同時我們應該關注兼顧個體和集體利益的方案，促進科技的平衡和可持續發展。Debate-AI 辯論,危險,意識形態,爭論
