Hinton 警告開發 AI 產品將可能自食惡果

人工智慧先驅者 Geoffrey Hinton 警告 AI 公司，AI 產品的開發已經危及人類，他已離開 Google，當前有自由發表有關 AI 風險的意見。

背景

在人工智慧技術快速進步的時代，短短十年前 Geoffrey Hinton 和多倫多大學的研究生就創造了可以讓大公司賭上未來的技術。他的技術已經成為 AI 系統的智慧基礎，例如今天的聊天機器人 ChatGPT，此技術在許多公司的產品和服務中都應用得宜。

然而 Hinton 已經成為了越來越多批評 AI 公司的聲音之一，他表示許多人類學者及產業專家已經意識到 AI 產品的開發可能會對人類造成危害。他已經離開 Google，在外公開發表 AI 風險的意見。

人工智慧的風險

現在人工智慧已經是一個非常重要的話題，AI 將會是從藥物研究到教育等各個領域都可以為人類帶來很多的突破。但是 Hinton 卻對 AI 持續發展的風險感到擔憂，AI 可以是一種操縱訊息的工具，也可能會對人類的工作構成威脅，甚至對人類造成危害。

此外 Hinton 表示：“很難看到如何防止不良分子使用 AI 來做壞事情”。

行業的反應

在 OpenAI 公司於三月份推出新版 ChatGPT 之後，超過 1,000 名科技領袖和研究人員簽署了一封公開信，呼籲 AI 技術的開發應停止六個月，因為 AI 技術對社會和人類構成了“深刻的風險”。

數天後，一個 40 年歷史的學術社會 AI 協會的 19 位現任和前任領袖也發表了一封信，警告 AI 的風險，其中包括 OpenAI 的主要投資者和合作夥伴微軟的首席科學家 Eric Horvitz。

當前技術產業正處於其最重要的轉折點，人工智慧正在推動新的創新和發展，但同時也引發了對其潛在風險的關注。據報道，許多業內人士都感到擔憂，因為他們認為他們正在向野外釋放危險的力量。生成式人工智慧已經成為虛假訊息的工具，而很快它也可能成為就業風險的威脅。科技業的一些最大的擔憂是，它可能會對人類構成威脅。

在這種情況下，人工智慧先 Hinton 的轉變非常值得關注。Hinton 和他的兩名研究生在多倫多大學創造了人工智慧技術，這成為了科技行業最大公司所相信的未來關鍵的智慧基礎。然而他現在加入了一個越來越大的批評家的行列，他們說那些公司正在冒險建立基於生成式人工智慧的產品，如 ChatGPT 的關鍵。

Hinton 表示他已經離開 Google，這是他工作了十多年的地方，成為了這個領域中最受尊敬的聲音之一，這樣他就可以自由地講述人工智慧的風險。他在上週的一次漫長存取中說：“我用常規的藉口來安慰自己：如果我不這樣做，其他人就會這樣做。”他的人工智慧從先驅者變成了認為人工智慧可能對人類構成風險的預言者。

Hinton 的轉變標誌著科技產業的一個顯著時刻，它或許是自幾十年前網頁瀏覽器出現以來最重要的轉折點之一。科技業的領袖們相信，新的人工智慧系統可能會像上世紀九十年代初網頁瀏覽器的推出一樣，帶來革命性的變革。但是希因頓和一些人則擔心，如果不進行足夠的風險評估和控制，人工智慧可能會導致一些不可預測的後果，甚至威脅到人類的存在。他認為，要實現人工智慧的長期成功，需要進行多方面的討論和努力，包括對人工智慧進行更好的監管和監控，讓其更好地適應人類的需要和價值觀。此外他呼籲科技產業從過去的成功和失敗中吸取教訓，不斷地進行反思和改進，以確保人工智慧技術的發展能夠帶來更多的好處，而不是損害社會的利益。 

結論

隨著人工智慧技術的快速進展，對其潛在風險的關注越來越多。Geoffrey Hinton 警告 AI 公司，AI 產品的開發可能會對人類造成危害。人工智慧可以成為操縱訊息的工具，對人類工作構成威脅，甚至對人類造成危害。在這種情況下，對 AI 技術的開發應持續進行評估和監管，以確保其安全性和可靠性，隨著人工智慧技術的快速發展和普及，科技公司需要更加關注倫理和風險問題，以確保技術的發展能夠為人類帶來好處，而不是潛在的危險。