人類和人工智慧都會產生幻覺，但方式不同
引言
自從 GPT-3.5 等大型語言模型的問世以來，人們對於這些新技術的興趣與日俱增。然而隨著使用者發現它們也會出現錯誤和不完美的特點，對這些模型的信任逐步降低。一個輸出錯誤資訊的語言模型被稱為「幻覺」，當前有越來越多的研究努力致力於減少這種效應。然而在我們努力解決這個問題的過程中，值得反思的是我們自己在認知偏差和幻覺方面的能力以及這如何影響我們所創造的語言模型的準確性。透過理解人工智慧的幻覺潛力與我們自身之間的聯絡，我們可以開始創造更智慧的 AI 系統，從而最終減少人為失誤。人類如何產生幻覺
人類往往會編造資訊，有時是故意的，有時是無意識的。後者是認知偏差或「啟發法」的結果，即我們透過過去的經驗發展出來的心理快捷方式。這些快捷方式往往是出於必要。在任何給定的時刻，我們只能處理有限數量的感官訊息，並且只能記住我們曾經接觸過的訊息的一小部分。因此我們的大腦必須使用已學習的聯想來填補空白，並且能夠快速回答眼前的問題或困境。換句話說，我們的大腦根據有限的知識猜測正確答案。這稱為「說書」，是人類偏見的一個例子。我們的偏見可能導致判斷不準確。例如，自動化偏見是指我們傾向於相信由自動系統（如 ChatGPT）生成的訊息，而不是非自動化來源的訊息。這種偏見可能導致我們錯過錯誤，甚至根據虛假訊息採取行動。另一個相關的心理快捷方式是光環效應，即我們對某物的初始印象會影響我們之後與之互動的方式。還有流暢偏見，即我們偏好以易讀的方式呈現的訊息。總之人類的思維往往受到自身認知偏見和扭曲的影響，而這些「幻覺」傾向主要發生在我們無意識之外。人工智慧如何產生幻覺
在語言模型的情境下，幻覺是不同的。語言模型並不是在儘量節省有限的心理資源以有效地理解世界。在這個情境下，「幻覺」只是形容試圖預測適當回應的失敗。儘管如此人類和語言模型之間的幻覺仍然有一些相似之處，因為語言模型也是透過「填補空白」的方式進行幻覺的。語言模型透過預測在一個序列中最有可能出現的下一個單詞來生成回應，基於之前的內容和系統透過訓練學到的聯想。與人類一樣，語言模型也試圖預測最有可能的回應。但不同於人類的是，它們這樣做時並不理解自己在說什麼。這就是它們最終會輸出無意義結果的原因。至於為什麼語言模型會產生幻覺，有很多因素。其中一個重要因素是它們在訓練中使用了有缺陷或不充分的資料。其他因素包括系統如何被程式設計從這些資料中學習以及這種程式設計如何在人類的進一步訓練中得到強化。如何一起改進
因此如果人類和語言模型都容易產生幻覺（雖然原因不同），哪一個更容易修正呢？修復支撐語言模型的訓練資料和過程可能似乎比修復自己容易。但這忽略了影響 AI 系統的人類因素（這是一個被稱為基本歸因錯誤的人類偏見的例子）。現實是我們的缺陷和技術的缺陷是密不可分的，因此解決其中一個問題將有助於解決另一個問題。以下是一些我們可以做的方式。負責任的資料管理
AI 中的偏見往往源於存在偏向或有限的訓練資料。解決這個問題的方式包括確保訓練資料多樣且具有代表性，構建對偏見有意識的算法，並利用資料平衡等技術消除偏斜或具有歧視性的模式。透明和可解釋的人工智慧
儘管採取了上述措施，人工智慧中的偏見仍然可能存在，並且很難檢測。透過研究偏見如何進入系統並在系統中傳播，我們可以更好地解釋輸出中的偏見存在。這就是「可解釋的人工智慧」的基礎，旨在使人工智慧系統的決策過程更透明。以公眾利益為重
認識到、管理和學習 AI 中的偏見需要人類的責任和將人類價值納入 AI 系統中。實現這一點意味著確保利益相關者代表來自不同背景、文化和觀點的人群。透過以這種方式共同努力，我們可以建立更智慧的 AI 系統，從而在保持人類責任的同時改進診斷決策。結論
AI 的準確性的改善工作是必要的，同時我們不應忽視它們當前的不可靠性如何反映了我們自己。我們必須認識到，無論是人類還是人工智慧系統，都有產生幻覺的傾向，並且這是由於不同的原因。透過解決資料和人類因素中存在的問題，我們可以共同努力建立更智慧的 AI 系統，從而彼此監督和改進所有幻覺的產生。藉助人工智慧在醫療保健領域的應用，我們可以分析人類決策中的不一致性，並提供提示以引起臨床醫生的注意。同樣，在社交媒體領域，AI 正在幫助訓練人類審核員識別濫用行為。結合 AI 和衛星影像還可以幫助研究人員分析不同地區夜間照明的差異，並將其用作區域相對貧困的代理指標。重要的是，當我們進行提高語言模型準確性的基本工作時，我們不應忽視其當前的不可靠性如何反映了我們自己。Illusion-人類,人工智慧,幻覺,感知,認知,神經科學
