## 編者的話：馬斯克與末日預言家的融合
評論：馬斯克與末日預言家的融合
引言
在人工智慧（AI）領域，四家世界知名且資金充足的研究實驗室——OpenAI、DeepMind、Anthropic 和 xAI——近日選擇將 AI 系統的「存在風險」或「極限風險」的觀念帶給主流大眾。然而相當多的 AI 專家對於這種極限風險的關注表示不同意見。儘管如此還是有許多 AI 專家對這些公司與有效利他運動（EA）社群之間的聯絡表示擔憂，認為這些聯絡會對 AI 領域的發展產生負面影響。極限風險的關注
很多 AI 專家對於所謂的「極限風險」的關注提出了批評。他們認為這種「毀滅論」的議論並不值得如此高度的關注。一些專家表示「極限風險」的報導被當作事實，進一步強化了只有危及整個文明的情境才是重要的信念，對其他危害則視而不見，或視為不重大。他們認為，當前 AI 所帶來的問題（包括正面和負面的問題）才是真正需要關注的。有效利他運動在 AI 領域的影響
眾所周知，有效利他運動是一個以証據和理性為基礎的思想專案，旨在透過擁有優先權並獲得積極影響的方式來造福他人。然而一些 AI 專家擔心，有效利他運動對整個 AI 領域的發展產生了負面影響。他們認為，太多矽谷的人抱有一種拯救世界的觀念，認為只有他們看到世界末日的必然，並且只有他們能夠解決這個問題。這種觀念可能會對 AI 領域的發展產生干擾。四家 AI 實驗室的立場
為了更好地理解四家 AI 實驗室的立場，我們對它們在 AI 通用人工智慧（AGI）以及極限風險和有效利他運動方面的關注進行了調查。xAI
- 使命：透過開發 AGI 來「理解宇宙的真實本質」。 - 焦點：擔心 AGI 可能對人類帶來破壞性的風險，主張「減輕 AI 造成的滅絕風險應該是全球的重要任務，與大流行病和核戰爭等社會規模風險同等重要」。馬斯克開發 xAI 的目的在於打造一個更聰明的 AGI，這樣它就不太可能摧毀人類。他認為，「建立一個最具好奇心和探求真理的人工智慧，實際上是建立最安全的人工智慧的方法」。 - 與有效利他運動的聯絡：馬斯克本人聲稱，有效利他運動的創始人之一威廉·麥卡斯基爾的著作「與我的哲學非常相近」。至於 Hendrycks，他自稱「從未是有效利他運動的追隨者，儘管經常接觸該運動」，他認為「AI 安全是一門能夠獨立於有效利他運動的學科」。然而 Hendrycks 接受了公益組織 Open Philanthropy 的資助，並表示他對 AI 安全感興趣是因為參與了與有效利他運動相關的職業探索計劃「80,000 小時」。OpenAI
- 使命：確保通用人工智慧（AGI）造福所有人類。 - 焦點：OpenAI 自成立以來就一直關注 AGI，並發布了許多與 AI 安全和 AGI 相關的部落格文章。該公司最近成立了一個「超限對齊團隊」，旨在在四年內解決超智慧對齊的核心技術挑戰。 - 與有效利他運動的聯絡：OpenAI 在 2017 年從 Open Philanthropy 獲得 3000 萬美元的資助。儘管 OpenAI 的執行長 Sam Altman 過去批評過有效利他運動，但他完成了有效利他運動創始人 William MacAskill 建立的「80,000 小時」課程。Google DeepMind
- 使命：透過理解和再現智慧來解答世界上最大的問題。 - 焦點：DeepMind 自成立以來就一直關注 AGI，它的 AI 研究努力一直集中在加固學習方面。CEO Demis Hassabis 擔心如果不加以約束，這些系統可能會掌握並摧毀我們。 - 與有效利他運動的聯絡：一些 DeepMind 的研究人員認同有效利他運動，並參加了有效利他運動全球會議。Anthropic
- 使命：透過研究 AI 系統的行為、負責任地部署 AI 系統並定期分享安全見解，確保轉型型 AI 發揮其潛力幫助人類社會繁榮。 - 焦點：Anthropic 的員工非常關注極限風險，他們認為 AI 模型正迅速接近被視為通用人工智慧（AGI）的水準，並擔心這些系統如果無法得到妥善控制，可能會佔領並摧毀我們。 - 與有效利他運動的聯絡：Anthropic 是與有效利他運動聯絡最密切的 AI 實驗室之一。「紐約時報」一篇深入報導稱「沒有哪個重要的 AI 實驗室像 Anthropic 一樣完全體現了有效利他運動的理念」。結論
四家 AI 實驗室對 AGI 和極限風險的關注不同，但它們的立場與有效利他運動之間存在一定的聯絡。在這種情況下，批評者指出這種聯絡可能會對 AI 領域的發展帶來潛在的危害，特別是對於那些由少數資金和影響力龍頭控制的人類帶來危害的可能性。 總的來說我們需要對 AI 的發展進行深入的哲學和倫理思考，以確保它能夠真正造福人類。對於 AI 專家來說他們應該更關注當前 AI 技術帶來的實際問題，並致力於解決這些問題，而不是過於關注未來的高度抽象風險。 有效利他運動在引領 AI 領域發展方向的同時也應該進一步反思其影響力和行動的可能後果。我們不能讓少數人主導整個 AI 領域的未來，而是應該進行更全面的討論和參與，以確保 AI 的發展真正符合人類的利益。 對於大眾來說我們應該持續關注 AI 的發展，理解其中的風險和潛在的影響。同時更多的投入和參與將有助於塑造 AI 的未來，確保它能夠真正造福人類。 我們需要平衡熱衷於科技進步的激情與對人類社會的關懷之間的衝突。只有透過明智和負責任的方法，我們才能確保 AI 領域的發展對人類社會是有益的。ArtificialIntelligence-末日預言家,馬斯克,xAI,AI 啟示錄
延伸閱讀
- 「科技晨報」：埃隆·馬斯克為 xAI 的大謀劃包括籌措 60 億美元
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 特斯拉盈利週：價格下調和馬斯克積極推進自駕技術
- 特斯拉在馬斯克的 X 車款上已花費 20 萬美元廣告
- 特斯拉取消電動汽車庫存價格優惠，馬斯克決定「精簡化」銷售與交付操作
- 「xAI 開源 Grok 基模型，但沒有任何訓練程式碼」
- OpenAI 怒擊馬斯克，Monzo 籌集大筆資金
- 藍天網路挖角前 Twitter/X 信任與安全高層，曾遭馬斯克挖角
- 印度透過電信法為翻盤馬斯克的 Starlink 鋪平道路，隨之而來的是隱私問題，你應該知道的事情
- 特斯拉執行長馬斯克一年後的推特：所有你需要知道的事情
