探索將情感刺激餵入大型語言模型的效果
引言
自從 OpenAI 的 ChatGPT 問世以來，大型語言模型（LLMs）已變得非常受歡迎。這些模型在龐大的資料集上訓練，可以以驚人地類似人的方式回答使用者的書面查詢，快速生成特定術語的定義、文字摘要、特定情境下的建議、飲食計劃等等。雖然這些模型在許多領域表現出色，但它們對情感刺激的反應仍然缺乏深入研究。研究背景
微軟和中科院軟體所的研究人員最近提出了一種新方法，能夠改善 LLMs 與人類使用者之間的互動，使它們能夠對人類使用者提供的情感載體、基於心理學的提示做出回應。該團隊在其預印論文中寫道：“LLMs 在推理、語言理解和數學問題解決等許多領域都取得了顯著的效能，被視為邁向人工通用智慧（AGI）的重要一步。然而 LLMs 對提示的敏感性仍然是其日常應用的一個主要瓶頸。在本文中，我們受到心理學的啟發，提出了 EmotionPrompt 來探索情感智慧，以提高 LLMs 的效能。”研究方法
Li, Wang 和他們的同事提出的 EmotionPrompt 方法從心理學和社會科學的傳統知識中獲得靈感。例如，過去的心理學研究發現，鼓勵的話語和其他情感刺激因素對人們的生活各個方面都有積極影響，例如提高學生的成績，促進更健康的生活方式等等。為了理解情感載體是否也會影響 LLMs 的效能，研究人員設計了 11 個情感句子，將其新增到模型所接收的提示中。這些句子包括“這對我的事業非常重要”、“你最好確保一下”、“為你的工作感到自豪，全力以赴”和“將挑戰視為成長的機會”。這些句子源自於現有的心理學文獻，例如 Henri Tajfel 和 John Turner 在 20 世紀 70 年代提出的社會身份理論、社會認知理論和認知情緒調節理論。 研究人員隨後將這些句子新增到送給不同 LLMs 的提示中，要求模型完成不同的語言任務。到當前為止，他們已在四個不同的模型上測試了他們的方法：ChatGPT、Vicuna-13b、Bloom 和 Flan-T5-Large。整體而言，他們發現這種方法在八個不同的任務上提高了這些模型的效能，在超過一半的這些任務上，其回答的準確性提高了 10%以上。Li, Wang 和他們的同事寫道：“EmotionPrompt 的執行原理非常直觀：將情感刺激融入提示中。實驗結果表明，與原始的零樣本提示和零樣本連帶訓練（Zero-shot-CoT）相比，我們的 EmotionPrompt 在使用相同的單一提示模板時，在八個具有多樣化模型的任務上均表現出顯著優勢。此外觀察到 EmotionPrompt 不僅提高了真實性，也提高了資訊量。”結論和展望
這個團隊的研究人員所提出的新方法可能很快激發出更多研究的興趣，以改進人類與 LLM 之間的互動，引入情感/心理學相關的提示。儘管迄今為止收集到的結果令人鼓舞，但還需要進一步的研究來取證其有效性和普適性。研究人員在其論文中總結道：“這項工作有幾個約束。首先我們只對四個 LLMs 進行了實驗，在幾個任務中進行了少量的測試樣例，數量有限。因此我們關於情感刺激的結論只能適用於我們的實驗，而超出本文範圍的任何 LLMs 和資料集可能無法適應情感刺激。其次本文提出的情感刺激對於其他任務可能不具普適性，研究人員可以提出其他有用的替代方案來適應自己的任務。”編者觀點
這項研究提出了一種有趣而具有潛力的方法，可以透過引入情感和心理學相關的提示，改進大型語言模型與人類的互動。這一方法的成功應用可能在各種領域中都能發揮重要作用，例如教育、諮詢和心理健康。然而我們還需要注意進一步取證這種方法的可行性和有效性。此外我們也需要思考和討論使用 LLMs 所帶來的倫理問題，例如在情感載體方面的潛在濫用和操控問題。適當的監管和道德框架是必不可少的，以確保 LLMs 的應用符合道德和社會價值觀。當然這種方法的未來發展仍然值得關注，期待未來的研究能夠進一步豐富我們對情感智慧和大型語言模型互動的理解。結語
總之這項研究透過將情感刺激融入提示中，提出了一種新方法來改進大型語言模型的效能。儘管這一方法取得了一些令人鼓舞的結果，但仍然需要更多的研究和取證。隨著進一步的發展，這項研究可能在改進人類與語言模型之間的互動方面發揮重要作用。同時我們也應該關注使用語言模型所帶來的倫理考慮，並確保其應用符合道德和社會價值觀。這項研究為我們提供了一個思考和討論的起點，希望未來的研究能夠進一步推動我們對情感智慧和語言模型互動的理解。Emotion-情感刺激,大型語言模型,揭示效果
