OpenAI 未能清楚指出 ChatGPT 的局限性
近日在 OpenAI 所開發的 AI 聊天機器人 ChatGPT 被美國律師 Steven A. Schwartz 用來尋找支援哥倫比亞航空公司 Avianca 的訴訟案例時，這個聊天機器人不斷提示錯誤、虛構的資訊，Schwartz 表示自己不知道 ChatGPT 可能提供虛假內容的可能性，但其實在此之前已經有無數的報導表明了這一點。當然 Schwartz 也有責任，但 OpenAI 在準備人們使用 ChatGPT 這樣強大又被吹捧的科技時，明顯地未能做到足夠的警告和說明。
ChatGPT 的功能和約束
OpenAI 在 ChatGPT 的主頁面上貼上了警告：「可能偶爾會生成不正確的資訊。」這是一項說明 ChatGPT 功能和約束九項之一。在這九項說明中註明了 ChatGPT 所能做到的工作以及這種技術的容錯率和存在問題的範圍。然而隨便哪個訊息來源，從維基百科到 Google，甚至是《紐約時報》的前頁標題，都可能犯錯，或多或少都會有這種情況發生。因此對於 ChatGPT 這樣的強大實用技術，OpenAI 沒有做到足夠的提示和說明，就顯得明顯不足。
ChatGPT 的誤解和誤導
使用者也有些許疏失，大多數報導都是一些輕微或沒有負面影響的案例。通常，這些機器人會生成新聞故事、學術論文或書，然後有人試圖找到這些來源，或者會不幸成為笑柄。但 ChatGPT 錯誤的資訊也有可能導致更嚴重的後果。例如，今年 5 月份，德克薩斯 A＆M 大學一名教授使用這款聊天機器人檢查學生是否用 AI 寫作業。ChatGPT 很樂意地回答，是的，所有學生的文章都是由 AI 生成的，即使它沒有可靠的能力來作出此評估。然後教授威脅不予透過該課程，並扣留學生的文憑直到他的錯誤被指出。又如今年 4 月份，一名法學教授講述了他的經歷，他在查詢有關測量的學術論文時，ChatGPT 卻生成了虛假新聞故事，指控他性騷擾。他只知道這件事情是因為一位同事做研究時提醒了他此事。這位教授告訴《華盛頓郵報》：“這非常令人不寒而慄，這樣的指控極其有害。”
ChatGPT 的潛力
並不是說這些錯誤案例就否定了 ChatGPT 和其他聊天機器人的潛力。在正確的情況和正確的保障下，這些工具可以非常有用。我認為 ChatGPT 的潛力包括檢索訊息等任務。當前正在進行各種有趣的研究，展示這些系統在未來將如何變得更加確實可靠。事實上當前的問題在於：做得還不夠。
媒體和 OpenAI 需要承擔更多的責任
ChatGPT 等聊天機器人正在被推銷成為一種新型科技，但實際上人們把它們用作一種搜尋引擎。許多搜尋引擎是明確作為搜尋引擎上線，因此它們會有一些提示。但當聊天機器人混淆訊息並用帶有語氣的語言來回答問題時，這些注意力就會分散。只用一兩句免責宣告是不足以解決這個問題的。值得一提的是，chatGPT 可以透過搜尋網路來回答問題，但只有在您支付加入高級版並使用 Beta 外掛時才能夠。這是一個封閉的系統，更容易導致人們誤解。
OpenAI 可以做得更好。ChatGPT 需要認識到它正在被用來生成事實性引用，並警告使用者提前“檢查我的訊息來源”。當有人詢問“這段文字是否為 AI 生成時”時，它為什麼不能以清晰明確的方式回答“很抱歉，我無法做出評論”？
結論
OpenAI 在這方面已有所改善。自 ChatGPT 推出以來，我發現它變得越來越直接了，常常在答案前加入那種 AI 的口頭禪：“作為一個 AI 語言模型......”，但這也不夠一致。在今天早上，當我問它“能否檢測 AI 生成的文字？”時，它警告我“不能完全可靠”,但在我餵給它這篇文章的片段並再次問同樣的問題時，它只回答：“是的，這段文字是由 AI 生成的。”你們也可以自行進行類似的測試，很快就會發現錯誤。對於這種效能的表現，“偶爾可能會生成不正確的資訊”的宣告似乎不那麼正確。讓我們希望 OpenAI 能夠意識到這些問題和需要加以改進，使得 ChatGPT 和其他聊天機器人可以更加實用也更有可信度。
延伸閱讀
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 微軟加速 AI 研發程式，直指 OpenAI 競爭對手
- 一年過去了，OpenAI 的聲音複製工具仍未問世！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- OpenAI 計劃將 Sora 影片生成器整合至 ChatGPT，開啟創意新視界！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
- 「深入解析！ChatGPT 收費全攻略：你需要知道的一切」
- 「OpenAI 為付費 ChatGPT 使用者推出深度研究功能，探索智慧對話的新境界！」
- 《OpenAI 為何尚未將深度研究成果引入其 API？背後原因大揭密！》
