口語廢話揭示 AI 聊天機器人的約束
科學 X 網站出版的《性質機器智慧》刊登了一篇來自哥倫比亞大學的研究，揭示了大型語言模型在將口語廢話與自然語言區分開的能力仍然有限。這項研究對改進聊天機器人的效能以及揭示人類語言處理方式可能具有重要意義。研究方法與結果
哥倫比亞大學的研究團隊將九種不同的語言模型挑戰了數百對句子。參與研究的人們需要選擇他們認為哪個句子在日常生活中更自然，即更有可能被閱讀或聽到。然後，研究人員測試這些模型是否會以與人類相同的方式評估每個句子對。 在直接比較的測試中，基於 Transformer 神經網路的更為先進的 AI 表現得比簡單的迴圈神經網路模型和僅計算網路或線上資料庫中的詞對頻率的統計模型更好。然而所有模型都會犯錯，有時會選擇人們聽起來像廢話的句子。AI 模型的盲點
研究團隊的高級作者克裏斯託弗·巴爾達薩諾博士在接受採訪時表示"每個模型都有盲點，將一些人們認為是無意義的句子標記為有意義的。"這種情況應該讓我們對 AI 系統作出重要決策的程度產生疑慮，至少在當前的情況下。 研究團隊眼中的一個最有趣的結果是許多模型表現良好但並不完美。克裏斯託弗·巴爾達薩諾博士表示："理解為什麼會出現這種差距以及一些模型表現更好的原因，都可以推動語言模型的進步。"AI 聊天機器人的啟示作用
研究團隊的另一個重要問題是，AI 聊天機器人的計算過程是否能給神經科學家帶來新的科學問題和假設，從而更好地理解我們大腦的執行方式。進一步分析各種聊天機器人及其基礎算法的優點和缺陷，有助於回答這個問題。 這篇研究論文的通訊作者塔爾·歌蘭博士表示："我們最終感興趣的是瞭解人們的思考方式。這些 AI 工具變得越來越強大，但它們與我們的方式不同。將它們的語言理解與我們的進行比較，可以為我們提供一種思考我們自己思維方式的新途徑。"結論與展望
這項研究揭示了 AI 聊天機器人在語言理解方面的約束。儘管現有的語言模型在某些方面表現出色，但它們仍無法真正理解自然語言，無法區分口語廢話和合乎語言規則的句子。 這項研究還為改進聊天機器人的效能和研究人類語言處理提供了一些建議。例如，科學家可以嘗試改進模型的設計，使其更好地捕捉人類語言的細微差異。另外透過對聊天機器人的算法進行深入分析，可以提供有關人類大腦語言處理過程的重要研究線索。 儘管 AI 聊天機器人仍有局限性，但隨著技術進步和研究的持續努力，我們可以期待未來的聊天機器人能夠更好地模擬人類的語言處理能力，為人類的生活和工作帶來更多的便利。Limitations-AI,聊天機器人,口語廢話,約束性
延伸閱讀
- Google I/O 2024：AI 與 Android 大揭祕
- Google 在 I/O 主題演講中提到「AI」超過 120 次
- OpenAI 考慮允許 AI 色情內容？
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Quora CEO Adam D’Angelo 分享人工智慧和聊天機器人平臺 Poe，並解釋為何 OpenAI 並非競爭對手
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
