OpenAI 未能清楚指出 ChatGPT 的局限性
近日在 OpenAI 所開發的 AI 聊天機器人 ChatGPT 被美國律師 Steven A. Schwartz 用來尋找支援哥倫比亞航空公司 Avianca 的訴訟案例時,這個聊天機器人不斷提示錯誤、虛構的資訊,Schwartz 表示自己不知道 ChatGPT 可能提供虛假內容的可能性,但其實在此之前已經有無數的報導表明了這一點。當然 Schwartz 也有責任,但 OpenAI 在準備人們使用 ChatGPT 這樣強大又被吹捧的科技時,明顯地未能做到足夠的警告和說明。
ChatGPT 的功能和約束
OpenAI 在 ChatGPT 的主頁面上貼上了警告:「可能偶爾會生成不正確的資訊。」這是一項說明 ChatGPT 功能和約束九項之一。在這九項說明中註明了 ChatGPT 所能做到的工作以及這種技術的容錯率和存在問題的範圍。然而隨便哪個訊息來源,從維基百科到 Google,甚至是《紐約時報》的前頁標題,都可能犯錯,或多或少都會有這種情況發生。因此對於 ChatGPT 這樣的強大實用技術,OpenAI 沒有做到足夠的提示和說明,就顯得明顯不足。
ChatGPT 的誤解和誤導
使用者也有些許疏失,大多數報導都是一些輕微或沒有負面影響的案例。通常,這些機器人會生成新聞故事、學術論文或書,然後有人試圖找到這些來源,或者會不幸成為笑柄。但 ChatGPT 錯誤的資訊也有可能導致更嚴重的後果。例如,今年 5 月份,德克薩斯 A&M 大學一名教授使用這款聊天機器人檢查學生是否用 AI 寫作業。ChatGPT 很樂意地回答,是的,所有學生的文章都是由 AI 生成的,即使它沒有可靠的能力來作出此評估。然後教授威脅不予透過該課程,並扣留學生的文憑直到他的錯誤被指出。又如今年 4 月份,一名法學教授講述了他的經歷,他在查詢有關測量的學術論文時,ChatGPT 卻生成了虛假新聞故事,指控他性騷擾。他只知道這件事情是因為一位同事做研究時提醒了他此事。這位教授告訴《華盛頓郵報》:“這非常令人不寒而慄,這樣的指控極其有害。”
ChatGPT 的潛力
並不是說這些錯誤案例就否定了 ChatGPT 和其他聊天機器人的潛力。在正確的情況和正確的保障下,這些工具可以非常有用。我認為 ChatGPT 的潛力包括檢索訊息等任務。當前正在進行各種有趣的研究,展示這些系統在未來將如何變得更加確實可靠。事實上當前的問題在於:做得還不夠。
媒體和 OpenAI 需要承擔更多的責任
ChatGPT 等聊天機器人正在被推銷成為一種新型科技,但實際上人們把它們用作一種搜尋引擎。許多搜尋引擎是明確作為搜尋引擎上線,因此它們會有一些提示。但當聊天機器人混淆訊息並用帶有語氣的語言來回答問題時,這些注意力就會分散。只用一兩句免責宣告是不足以解決這個問題的。值得一提的是,chatGPT 可以透過搜尋網路來回答問題,但只有在您支付加入高級版並使用 Beta 外掛時才能夠。這是一個封閉的系統,更容易導致人們誤解。
OpenAI 可以做得更好。ChatGPT 需要認識到它正在被用來生成事實性引用,並警告使用者提前“檢查我的訊息來源”。當有人詢問“這段文字是否為 AI 生成時”時,它為什麼不能以清晰明確的方式回答“很抱歉,我無法做出評論”?
結論
OpenAI 在這方面已有所改善。自 ChatGPT 推出以來,我發現它變得越來越直接了,常常在答案前加入那種 AI 的口頭禪:“作為一個 AI 語言模型......”,但這也不夠一致。在今天早上,當我問它“能否檢測 AI 生成的文字?”時,它警告我“不能完全可靠”,但在我餵給它這篇文章的片段並再次問同樣的問題時,它只回答:“是的,這段文字是由 AI 生成的。”你們也可以自行進行類似的測試,很快就會發現錯誤。對於這種效能的表現,“偶爾可能會生成不正確的資訊”的宣告似乎不那麼正確。讓我們希望 OpenAI 能夠意識到這些問題和需要加以改進,使得 ChatGPT 和其他聊天機器人可以更加實用也更有可信度。
延伸閱讀
- OpenAI 與 Google 擺出競爭的 AI 願景
- OpenAI 設立超智慧 AI 團隊,卻任由其荒廢,訊息來源指稱
- 本週人工智慧大事記:OpenAI 轉向非安全應用
- OpenAI 成立團隊控制「超智慧」AI,卻任憑其枯萎——訊息來源指出
- OpenAI 聯合創始人兼長期首席科學家 Ilya Sutskever 離職
- Anthropic 的 Claude 在 iOS 平臺上的推出獲得微弱反韇,與 ChatGPT 的首次亮相相比
- 開放 AI (OpenAI)的 ChatGPT 新聞發布:我們當前所知道的事情
- OpenAI 考慮允許 AI 色情內容?
- OpenAI 揭開 AI 祕密指令的面紗
- OpenAI 表示正在建立一個工具,以讓內容創作者選擇退出 AI 訓練