人工智慧之父警告科技危險
AI教父 Geoffrey Hinton 離開 Google 並警告科技危險
隨著 ChatGPT 時代的到來，AI 開始引起廣泛的關注，不僅被工業家 Elon Musk、左翼知識分子 Noam Chomsky 和 99 歲的退休政治家 Henry Kissinger 等眾多知名人物討論，AI 研究社區的關注也日益增加。AI 教父 Geoffrey Hinton 是深度學習和神經網路方面的先驅之一，他的開創性工作奠定了我們今天所看到的大部分 AI 技術的基礎。然而他也看到了 AI 技術可能對社會造成的潛在威脅，因此他決定離開 Google，以便更自由地發表對其危險性的看法。
Hinton 表示AI 機器人聊天機器人的一些危險性相當可怕，「現在就我所知，它們與我們沒有更聰明的地方。但我認為他們很快可能會有。」 。在一次接受《MIT Technology Review》的採訪中，Hinton 表示 AI 的「壞角色」可能會以可能對社會造成不良影響的方式使用它，例如操縱選舉或煽動暴力。
Hinton 說他退休時，Google 是非常負責任的，但現在他退出了 Google ，因此他可以更好地發表有關 AI 危險的看法。他告訴《MIT Technology Review》:"只要我還受到 Google 的薪酬，我就不能這樣做。"Hinton 已經確認他辭去了他在位於多倫多的 Google 研究團隊的負責人職務。
AI 的未來危險或現在危險是辯論的中心。
AI 研究人員長期以來一直對 AI 系統中的種族、性別和其他形式的偏見表示擔憂，特別是那些在大量人類寫作中訓練的基於文字的大型語言模型，它們可以放大存在於社會中的歧視。AI 研究者 Sarah Myers West 表示“我們需要退後一步，真正思考正在進行風險討論的人是誰? 執行造成AI系統傷害的一方，今天實際上正在全球範圍內大力推廣落實。” AI 生產者也需要在製造這些技術時考慮到公平正義和差異待遇的問題。
毫無疑問，AI 為我們帶來了許多優點，但我們必須關注它的潛在危險並努力解決它。AI 背後的主要問題不僅限於技術本身，還包括人們如何使用它、它如何溝通和如何與社會互動。為了創造一個更好、更公平、更積極的未來，我們需要在 AI 聲音、AI 開發過程和 AI 應用中聽取各方的意見。
連線： May 2, 2023 Editors' notes This article has been reviewed according to Science X's editorial process and policies . Editors have highlighted the following attributes while ensuring the content's credibility: fact-checked reputable news agency proofread 'Godfather of AI' leaves Google, warns of tech's dangers by MATT O'BRIEN and WYATTE GRANTHAM-PHILIPS.
延伸閱讀
- OpenAI 考慮允許 AI 色情內容？
- Google 為 Android 打造了一些最早期的社交應用程式，包括 Twitter 和其他應用
- Google 為 iPhone 使用者帶來「圈選搜尋」新變化
- Google 錢包正式登陸印度市場
- Google 新推出預算款 Pixel 8a，更新硬體配置，售價 499 美元
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Google 稱 Epic 在反壟斷訴訟勝訴後的要求「不必要」和「超出判決範圍」
- Google 擴大 Passkey 支援，提前爲美國總統大選加固保護計畫
