「AI 教父」敦促政府阻止機器接管
2023 年 6 月 29 日
導言
電腦科學家 Geoffrey Hinton，被稱為「AI 教父」，於加拿大多倫多的 Collision 科技大會上發表演講。Hinton 敦促政府介入，確保機器不會接管社會。儘管 AI 教父的呼籲遭到批評，他仍然認為 AI 的風險應該被嚴肅對待。他還表示擔心 AI 會加劇不平等，使巨大的生產力增長主要惠及富人而不是勞工。
AI 的威脅與不平等
AI 教父 Hinton 警告說，儘管有人認為他誇大了風險，AI 的風險仍然應該被認真看待。「這不是科幻小說，不只是在散播恐懼。這是一個我們必須思考的真實風險，我們需要提前解決它的方法。」他強調。
Hinton 還表達了對 AI 加深不平等的擔憂，因為 AI 的大規模應用會使富人受益而不是勞工。「財富不會流向那些付出勞動的人，而是用來使富人更富有，對社會來說這是非常不利的。」他補充道。
虛假新聞與 AI 生成內容的風險
AI 教父還指出，像 ChatGPT 這樣的 AI 機器人所創造的虛假新聞是一個危險的因素，他希望 AI 生成的內容可以像中央銀行對現金進行水印標記那樣進行標記。「把一切假的都標記為假是非常重要的。至於我們是否能夠在技術上做到這一點，我並不知道。」他說。歐盟正在考慮在其《AI 法案》中採用此類技術，該法案將為歐洲的 AI 設定規則，當前正在由立法者進行協商。
對 AI 發展的不同觀點
與會者對於 AI 當前的生成模型巨頭（主要為 Microsoft 支援的 OpenAI 和 Google）是否能保持無與倫比的觀點有所不同，或者是否會有新的參與者透過自己的模型和創新來擴大領域。
風險投資家 Sarah Guo 表示將 AI 視為存在威脅的必然性，就像「討論火星上的人口過剩」一樣，這種觀點是過早的，她引用了另一位 AI 權威 Andrew Ng 的話。她還警告說，應該防止「監管被掌控」，即政府幹預保護現有利益者而不給健康、教育或科學等領域帶來機會。
風險投資公司 Kleiner Perkins 的 Leigh Marie Braswell 表示她認為在未來五年裡，如果你想尋找最好、最準確、最先進的通用模型，你可能仍然需要去那些有資本做到這一點的少數公司。「Gradient Ventures 的 Zachary Bratun-Glennon 則認為未來將會有成千上萬個模型存在於一個網路中，就像我們今天有一個網路網站一樣。」
來源：https://techxplore.com/news/2023-06-godfather-ai-urges-machine-takeover.html
