《為何 ChatGPT 當前尚無意識，但未來的人工智慧系統或許具備意識》
作者：科林·克萊恩（Colin Klein）
2022 年 6 月，Google 工程師布雷克·勒莫因（Blake Lemoine）聲稱該公司的 LaMDA 聊天機器人已經達到了具備自覺能力的程度，這在當時引起了廣泛關注。勒莫因表示該軟體具有一個聰明的七歲小孩的對話能力，我們應該假設它對世界也具有類似的意識。LaMDA 後來以 Bard 的名稱向公眾發布，它的核心引擎也是 OpenAI 的 ChatGPT 機器人的基礎，如今其他大型科技公司也為部署類似的技術而趕制。數以億計的人已經有機會與這些基於大型語言模型（LLM）的機器人互動，但很少有人相信它們是有意識的。正如語言學家和資料科學家艾米莉·本德（Emily Bender）詩般地說，它們只是「隨機的鸚鵡」，能夠流利地絮絮叨叨，但卻沒有理解力。
我們的哲學家、神經科學家和電腦科學家團隊，從當前關於人類意識如何執行的科學理論出發，列出了任何可能具有意識的系統可能需要擁有的基本計算特性。在我們看來，當前沒有任何系統符合意識的標準，但同時未來的系統也有可能真正具有意識。
找到指示物證據
自從計算機先驅艾倫·圖靈（Alan Turing）在 1950 年提出了「模仿遊戲」理論以來，成功模仿人類對話能力一直被視為意識的可靠標誌。這往往是因為這項任務似乎如此困難，以至於我們認為需要意識才能完成。然而就像國際象棋計算機深藍（Deep Blue）在 1997 年擊敗國際象棋大師加裏·卡斯帕羅夫（Gary Kasparov）一樣，LLM 機器人的對話流暢可能只是改變了評價的依據。
那麼，有沒有一種有原則的方法來探討人工智慧意識的問題，而不依賴我們對人類認知的直觀？我們最近的一份白皮書旨在做到這一點。我們將人類意識的當前科學理論與人工智慧系統作比較，總結出一份「指示物證據」的清單，可以應用於人工智慧系統。我們不認為擁有這些指示物證據的系統一定具有意識，但是指示物證據越多，我們就越應該認真對待人工智慧具有意識的主張。
意識背後的計算過程
我們在尋找哪些指標時避免了明顯的行為標準，例如能夠與人類進行對話，因為這些指標往往以人為中心，且容易偽造。相反，我們研究了關於支援人腦意識的計算過程的理論。這些理論可以告訴我們支援主觀經驗所需的訊息處理方式。
例如，「全域性工作空間理論」認為意識來自於一個約束容量的瓶頸，該瓶頸將來自大腦各個部分的訊息結合在一起，並選擇使之全球可用的訊息。「遞迴處理理論」則強調後續處理對早期處理的反饋作用。
每個理論又提出了更具體的指標。我們的最終清單包含了 14 個指標，每個指標都聚焦於系統的工作方式，而不是它們的行為方式。
當前系統沒有意識的理由
當前的技術如何？我們的分析表明，沒有理由認為當前的人工智慧系統具有意識。一些系統確實滿足了其中幾個指標。使用變形器架構的系統，即 ChatGPT 和類似工具背後的一種機器學習模型，滿足了「全域性工作空間」的三個指標，但它們缺乏關鍵的全球重播能力，也未能滿足大多數其他指標。因此儘管 ChatGPT 的令人印象深刻的對話能力，內部可能不具有任何意識。其他架構同樣最多只滿足一小部分標準。大多數現有架構最多只滿足幾個指標。不過對於大多數指標，至少有一種現有架構可以滿足。這表明在原則上，沒有明顯的技術障礙阻止了建立滿足大多數或全部指標的人工智慧系統的建造。這只是時間問題，而不是問題是否存在這樣的系統。
超越人類意識
我們考察的科學理論（和本文的作者！）並不總是一致的。我們使用指示物證據而不是嚴格的標準，以承認這一事實。面對科學上的不確保性，這種方法可能是一種有力的方法。我們受到了關於動物意識的類似辯論的啟發。我們大多數人認為至少有些非人類動物具有意識，儘管它們無法與我們對他們的感受進行對話。倫敦政治經濟學院 2021 年的一份報告指出，章魚等頭足動物可能會感到疼痛，這對於改變英國動物倫理政策至關重要。專注於結構特徵的方法意味著即使一些簡單的動物，如昆蟲，可能也具有一種最小形式的意識。
我們的報告並未提供對有意識的人工智慧應該採取何種措施的建議。隨著人工智慧系統必然變得更加固大和廣泛運用，這個問題將變得更加迫切。我們的指示物證據不會是最終結論，但我們希望它們能成為透過科學角度來解決這個棘手問題的第一步。
來源：科學家 Greenttraveller 於 2023 年 9 月 12 日撰寫
