OpenAI 認為超級智慧將來臨 — 並希望建立控制工具
開放 AI (OpenAI) 的最新舉措
在 Sam Altman 被 OpenAI 不光彩地免職並且 Altman 正在計畫重回公司的同時 OpenAI 的 Superalignment team 成員正在不辭辛勞地致力於如何控制比人類更聰明的 AI 的問題。他們希望給人的印象是這樣。近期,我與 Superalignment 團隊的三位成員 — Collin Burns、Pavel Izmailov 和 Leopold Aschenbrenner — 進行了一次電話交流。他們當時正在新奧爾良出席年度機器學習大會 NeurIPS,並展示 OpenAI 在確保 AI 系統行為正確方面的最新工作。
Superalignment 團隊的目標
Superalignment 團隊於 7 月成立,旨在開發方法來引導、監管和管理「超智慧」AI 系統,也就是比人類智慧遠遠超越的理論系統。團隊組建的目的是為了在未來強大的 AI 系統上建立治理和控制框架,雖然當前仍面臨諸多困難。
討論與觀點
對於超級智慧的存在,一些專家表示懷疑。他們認為相對於重要的 AI 監管問題,如算法偏見和 AI 傾向於產生有毒行為,當前很少有證據顯示這家新創公司的技術很快或永遠會擁有終結世界的、超出人類智慧的能力。但 Superalignment 團隊成員明確表示他們認為 AI 的進步極為迅速,並堅信 AI 或許有一天會構成存在威脅。
對外發布的計劃和倡議
OpenAI 正計劃推出一個價值 1000 萬美元的補助計劃,用於支援有關超智慧對齊的技術研究。獎項將分配給學術實驗室、非營利組織、個別研究人員和研究生。此外 OpenAI 還計劃於 2025 年初舉辦一場關於超對齊的學術會議。
市場人物參與的影響
前 Google CEO 和董事長 Eric Schmidt 的捐款令人關注。Schmidt 積極支援 Altman,並斷言危險的 AI 系統即將到來,而監管者在準備方面尚且不夠。然而他的個人財富估計約為 240 億美元,他在其他技術領域的投資也是巨額,這令一些人懷疑他的動機。
OpenAI 在這一議題上的立場
OpenAI 的 Superalignment 團隊成員強調他們的研究成果和程式碼將公開分享,並且對人類社會的安全負有責任,這是他們使命的核心部分。
延伸閱讀
- AI 晶片新創 DEEPX 以 5.29 億美元估值成功籌得 8000 萬美元 C 輪融資
- Fairgen「提振」調查結果,利用合成資料和人工智慧生成的回應
- 用 Retell AI 讓公司打造「語音代理人」來應答電話
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎?
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資,用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎?