人工智慧研究員反駁擔憂 AI 風險議論
紐約大學副教授、人工智慧領域重要研究員 Kyunghyun Cho 近日接受 VentureBeat 採訪表示對當前人工智慧風險議論感到失望。Cho 認為，像 Geoffrey Hinton 及 Yoshua Bengio 等知名學者對未來人工智慧發展可能引發的潛在危害發出警告，要求嚴格管制或暫停相關研究，這些「危言聳聽」的敘事分散了人們對於今天人工智慧的真正問題，包括正面和負面的影響。Cho 認為，當前缺乏對於人工智慧危害的具體提議以及對於如何提高人工智慧的有益利用的討論。此外 Cho 亦對「有效利他主義」運動提供資金支援的 AGI 努力表示關切，擔憂其代表了對業界的負面影響。
缺乏對於 AI 現有問題的認知
Cho 指出，當前人工智慧引起的問題並非只有危險性也有其帶來的好處。Cho 對最近的 AI 參議院聆聽會議表示失望，因為聆聽會議沒有提出有關如何管控人工智慧現有危害和如何提高它的有益使用的建議。Cho 認為，人工智慧可用於改善醫療保健系統以及推動社會更公平，但這些問題卻未被討論。同樣地，Cho 對於大肆渲染人工智慧滅絕人類的「存在風險論」感到失望和擔憂，認為這樣的旁枝末節只會引人偏離人工智慧的真正問題。
英雄科學家故事式敘述的問題
Cho 不認為將 Geoffrey Hinton、Yoshua Bengio 等科學家封為英雄有意義，並警告業界不要盲目聽信某些人的預測和警告。Cho 強調科學家和決策者的工作是對可能對社會產生正面和負面影響的科學專案進行評估，而不是盲目聽信某些代表世界末日的警告。對於參與有效利他主義運動的人，Cho 不是一個支援者。他擔心他們認為自己能夠拯救世界，這種救世主的情懷會成為對 AI 科研的負面影響。
對當前人工智慧進展進行批判審視
Cho 建議，科學家和決策者應對當前人工智慧進展進行批判和審視，重視這些科技可能帶來的負面影響，並賦予其正面的用途。Cho 認為，當前需要向大眾展示小規模、但確實取得的成功案例，以體現人工智慧為人類帶來益處的真正面貌。Cho 也呼籲教育部門需要在教育體系中引入人工智慧領域的相關概念，向學生提供基礎知識。
結語
Cho 反思了人工智慧研究中的「英雄主義」和警告聲中潛藏的負面影響，他嘗試深入思考人工智慧的風險和好處。Cho 強調科學家和決策者的工作應該是對現有的和潛在的危害做出評估，而不是盲目追求史詩般的結局。Cho 強調人工智慧的常規進展是需要滿足社會需求的，需要在社會責任的框架下進行，而非存在未知的風險情境下進行。Cho 的建議對於解決當前人工智慧面臨風險的問題有一定啟示意義。
延伸閱讀
- 在 AI 領域的女性：Tara Chklovski 正在教導下一代的 AI 創新者
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- 蘋果 AI 計劃揭祕：從財報中學到的三件事
- 特斯拉 CEO 為人工智慧新創公司籌集 60 億美元，TikTok 是否在逃避蘋果的傭金？
- Allozymes 以加速酶學應用於資料和人工智慧，籌集 1500 萬美元
- 在 TC 的 Techstars 調查內部以及人工智慧如何加速殘障科技
- Microsoft 禁止美國警察局使用企業人工智慧工具
- 你的 AI 原生新創公司並非一般的 SaaS 公司
- Airbnb 釋出團體訂房功能，並整合人工智慧以提升客戶服務
- 歐洲殘障科技新創如何利用人工智慧？
