ChatGPT 不能思考：意識與今天的 AI 有著截然不同的技術差異
本文作者：
簡介
近來，ChatGPT 與其他擁有大型語言模型的人工智慧系統的進步速度讓世界震驚。這些系統產生的文字似乎顯示出思考、理解，甚至創造力。但這些系統是否真正思考或理解呢？這不是一個可以透過科技進步回答的問題，而是需要認真的哲學分析和辯論。分析這些哲學問題的必要性在於我們必須充分瞭解人工智慧革命的危險和好處。
圖靈測試和棋藝挑戰
在 1950 年，現代計算機之父艾倫·圖靈發表了一篇關於如何判斷一臺計算機是否具有思考能力的論文，現在這被稱為「圖靈測試」。圖靈想像一個人與兩個隱藏在視野之外的對話者進行對話：一個是人類，另一個是計算機。這個遊戲的目的是找出哪個是哪個。如果一臺計算機能夠在與判斷員的五分鐘對話中騙過 70%的判斷員，那麼這臺計算機透過了測試。如果一臺人工智慧透過圖靈測試——這似乎是即將實現的——這是否意味著它已經實現了思考和理解呢？
然而圖靈被問及的挑戰與檢測人工智慧思考和理解的內容顯得茫然無幾，於是他將其替換為一個「實用的」思維定義——思考就是透過測試交卷。然而他錯了——當他說「理解」的唯一明確概念是純行為意義上的測試之時。儘管這種方式現在橫跨認知科學，但還有一個明確而普遍的「理解」概念與意識聯絡在一起。在這種意義上，理解應該是有意識地抓住現實中的一些真理。 例如，當人們理解棋局的規則和策略時，是有意識地理解的。相反 Deep Blue 賽車 AI 就是一個無感的機械裝置，被訓練成擅長於下棋，它沒有感受或經驗。此外 ChatGPT 也是一個無感的機制，經過人造資料的大量訓練，可以生成看起來像由人寫的內容，但它沒有意識地理解它正在輸出的字詞的含義。因此如果「思考」意味著有關意識的反思行為，那麼 ChatGPT 對任何事情都沒有思考。
神經科學、哲學和意識的挑戰
如何確認 ChatGPT 是否有意識呢？在 20 世紀 90 年代，神經科學家克裏斯託夫·科赫與哲學家大衛·查默斯打賭要準確地在 25 年內發現「意識的神經相關」的基礎，即森林大火，意識與大腦的相關問題需透過哲學和科學手段來探討，而這種能夠被歸納為與感知一致的意識是否真正存在仍有待爭議。腦科學研究人員在嘗試找到大腦活動和經驗之間的聯系時，必須依靠受試者的證言，或意識的外部標誌。但是研究人員有多種解釋資料的方法。有些科學家認為意識與反思認知，即大腦存取和使用訊息作出決策的能力之間存在密切聯絡。這使他們認為，大腦的前額 cortex——吸取知識的高層次過程所在的位置——基本上涉及所有的意識體驗。也有人提出反對意見，認為那些涉及所需感官處理的區域性大腦區域具有大意識經驗。我們對大腦的基本化學成分有很好的理解，對各個區域的高級功能有理解，但是我們對中間部分幾乎一無所知，即大腦的高級功能如何在細胞水平實現。人們對大腦掃描技術的潛力充滿期待。但是功能性磁共振成像（fMRI）具有非常低的解析度：大腦掃描中的每個畫素對應於 550 萬個神經元，這意味着這些掃描的細節約束在一定範圍內。
在我的新書《為什麼？宇宙的目標》中，我認爲意識必定已經進化，因爲意識使行爲有所不同，因此生物的生存能力更強。如果所有行為都由底層的化學和物理決定，那麼自然選擇就沒有動機讓有意識的有利生物留下更多的子孫；然而有意識的繁殖代代相傳，產生了高維度的心理反應。我的賭注是，隨着我們更好地理解大腦的細節，我們將精確地識別哪些大腦區域具有意識。這是因爲那些區域表現出的行為無法用現有的化學和物理知識解釋。一些神經科學家正在尋求潛在的新的意識解釋方法，以補充物理基本方程式對意識的達成度。
對人工智慧的安全擔憂
人工智慧存在的危機是其安全問題。近段時間內，包括科技領袖斯蒂夫·沃茲尼亞克和埃隆·馬斯克在內的數萬人呼籲暫停技術的發展，以應對安全隱患。例如，欺詐的潛力是巨大的。然而認為當前人工智慧系統的近期後裔將變得超級智慧，從而成爲對人類的重大威脅，這種說法是不成熟的。這並不意味著當前的人工智慧系統不危險。但是我們不能正確地評估威脅，除非我們正確地對其進行分類。LLMs 不是智慧的；它們被訓練成給人類智慧的實現外觀。這可能讓人驚恐，但不至於是那樣可怕。
延伸閱讀
- Xaira：AI 藥物發現新創公司以 10 億美元巨額啟動，宣稱已準備好開展藥物開發
- Rabbit 宣布推出一個迷人的小型 AI 裝置：R1
- Perplexity AI 可能價值高達 30 億美元，原因在於…
- 基於人工智慧時代，Anon 正在打造自動化認證層 - 技術新聞
- Snowflake 推出自家旗艦生成式人工智慧模型
- Parloa 完成 6600 萬美元融資，打造客服對話人工智慧平臺
- Perplexity 籌集超過 2.5 億美元，估值達 25-30 億美元，用於其人工智慧搜尋平臺
- 前 Snap 研究人員正在利用人工智慧打造下一代 Bitmoji - 輕鬆創作個人化貼圖
- Adobe 聲稱其最新的影象生成模型是迄今為止最佳的
- 聯合航空如何運用人工智慧讓旅行更輕鬆
