人工智慧之父警告科技危險
AI教父 Geoffrey Hinton 離開 Google 並警告科技危險
隨著 ChatGPT 時代的到來，AI 開始引起廣泛的關注，不僅被工業家 Elon Musk、左翼知識分子 Noam Chomsky 和 99 歲的退休政治家 Henry Kissinger 等眾多知名人物討論，AI 研究社區的關注也日益增加。AI 教父 Geoffrey Hinton 是深度學習和神經網路方面的先驅之一，他的開創性工作奠定了我們今天所看到的大部分 AI 技術的基礎。然而他也看到了 AI 技術可能對社會造成的潛在威脅，因此他決定離開 Google，以便更自由地發表對其危險性的看法。
Hinton 表示AI 機器人聊天機器人的一些危險性相當可怕，「現在就我所知，它們與我們沒有更聰明的地方。但我認為他們很快可能會有。」 。在一次接受《MIT Technology Review》的採訪中，Hinton 表示 AI 的「壞角色」可能會以可能對社會造成不良影響的方式使用它，例如操縱選舉或煽動暴力。
Hinton 說他退休時，Google 是非常負責任的，但現在他退出了 Google ，因此他可以更好地發表有關 AI 危險的看法。他告訴《MIT Technology Review》:"只要我還受到 Google 的薪酬，我就不能這樣做。"Hinton 已經確認他辭去了他在位於多倫多的 Google 研究團隊的負責人職務。
AI 的未來危險或現在危險是辯論的中心。
AI 研究人員長期以來一直對 AI 系統中的種族、性別和其他形式的偏見表示擔憂，特別是那些在大量人類寫作中訓練的基於文字的大型語言模型，它們可以放大存在於社會中的歧視。AI 研究者 Sarah Myers West 表示“我們需要退後一步，真正思考正在進行風險討論的人是誰? 執行造成AI系統傷害的一方，今天實際上正在全球範圍內大力推廣落實。” AI 生產者也需要在製造這些技術時考慮到公平正義和差異待遇的問題。
毫無疑問，AI 為我們帶來了許多優點，但我們必須關注它的潛在危險並努力解決它。AI 背後的主要問題不僅限於技術本身，還包括人們如何使用它、它如何溝通和如何與社會互動。為了創造一個更好、更公平、更積極的未來，我們需要在 AI 聲音、AI 開發過程和 AI 應用中聽取各方的意見。
連線： May 2, 2023 Editors' notes This article has been reviewed according to Science X's editorial process and policies . Editors have highlighted the following attributes while ensuring the content's credibility: fact-checked reputable news agency proofread 'Godfather of AI' leaves Google, warns of tech's dangers by MATT O'BRIEN and WYATTE GRANTHAM-PHILIPS.
延伸閱讀
- 震撼收購：Google 豪擲重金併購 Wiz，一週回顧
- Google 提議放寬 AI 政策中的版權與出口規則，引發爭議！
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 亞馬遜成立新型代理 AI 團隊，將如何改變科技未來？
- 「搶先報名！TechCrunch Sessions: AI 演講者申請截止日期迫在眉睫！」
- MWC 最新報導：AI 影響力的兩極化觀點首次曝光！
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- Google 升級 Colab！全新 AI 代理工具助你提升生產力！
- 亞馬遜新推出 Alexa+：為孩子們帶來 AI 驅動的「探索」與「故事」新功能！
- Google 大幅簡化個人資訊刪除流程，搜尋結果隱私守護新上線！
