可以建立「值得信賴」的 AI 聊天機器人嗎？
概述
新聞媒體公司透過使用生成式人工智慧（AI）工具，已經跳入了人工智慧的領域，使用這些工具製作無聊的旅遊指南、不準確的電影部落格和充滿 SEO 的解釋文章。但他們的目標一直是：可以不支付更多的作者提供更多的廣告頁面嗎？然而一些科技媒體正在嘗試將生成式 AI 納入其網站中，盡管讀者在短期內不會在機器的署名中發現這一點。
新聞媒體公司的 AI 聊天機器人
8 月 1 日，媒體/銷售公司 Foundry 在 Macworld、PCWorld、Tech Advisor 和 TechHive 的網站上新增了一個 AI 聊天機器人工具，宣稱讀者可以「透過我們專家的故事和評論，向 AI 提問，獲得技術問題的解答」。該 AI 聊天機器人被稱為智慧答案（Smart Answers），幾乎出現在所有文章和網站主頁上。 僅參考這四個網站的英文文章，在 AI 訓練中排除了贊助內容和交易帖子。讀者使用體驗類似於 ChatGPT 等其他消費者工具：讀者輸入問題，智慧答案生成回應。或者，讀者可以從 FAQ 列表中選擇一個查詢，該列表是由人們的問題和點選生成的 AI，回答包含從中獲取訊息的文章的連結。Foundry 的全球產品和資料主管 Neil Bennett 表示這一舉措的目的是幫助讀者在大量的寫作中尋找特定訊息。「我們擁有大量的內容，但有時您並不想閱讀 2000 字的大型新聞。有時候，您只想知道某個具體的事實。」
智慧答案的可靠性問題
Foundry 的編輯總監 Marie Black 表示在測試期間他們特別需要注意的是，機器人提供的答案必須是真正可靠的，與編輯所給的答案相同。智慧答案僅基於由有信譽的出版物發表的內容進行訓練，但要說聊天機器人可以提供編輯級別的回答還是一個很大的承諾。智慧答案在處理看似簡單的查詢時遇到困難。例如，當作者問機器人「最後一個 iPod Nano 是在什麼時候發布的？」時，智慧答案錯誤地回答稱它在 2022 年發布並停產。幾天後，回應變為「我沒有足夠的訊息回答這個問題」。機器人經常以這種方式回答，例如它不知道 TikTok 的執行長是誰。這可能是因為 Foundry 這些網站的報導型別（有或沒有報導）。這既是一個約束，也是一個好事情——一方面，使用這個工具的人可能仍然會有他們需要在其他地方尋找答案的問題。但至少它沒有隨意編造訊息以回答問題。對於像 iPod Nano 的查詢的錯誤，Black 提出的解釋是，聊天機器人可能是從幾年前並未更新的關於 iPod 的舊文章中引用的（該裝置於 2017 年停產）。
智慧答案的多重作用
除了從完整文章中提取訊息之外，智慧答案還有一個更重要的作用：聯盟收入。在生成的答案下方和相關故事連結上方，該工具附帶了被認為與讀者搜尋相關的購買選項。例如，有關 iPhone 電池壽命的問題，提供了一些銷售智慧手機的零售商的購買連結。像 Foundry 這樣的許多媒體公司透過聯盟銷售廣告來獲取收入，每當讀者使用他們的連結購買產品時，他們都會產生收入。（我們在 The Verge 也是如此。）透過這種方式，智慧答案成為承載這些廣告的新途徑，生成的廣告旨在與使用者提問的問題相匹配。「其中有一些連結是供您前往購買的，我們認為這是為讀者提供的一部分的服務。如果他們問的是某一個產品，他們可能正好在市場上購買」，Black 表示。在生成式人工智慧主導 Google 搜尋的時代，讓使用者在購買之前使用 AI 生成的簡述或詳細評論，網站留住它們變得比以往更為重要。出版商，尤其是撰寫產品評論或推薦清單的出版商，將因 Google 以 AI 驅動的搜尋生成式體驗將文章片段置於訊息源上方而喪失大量流量（和廣告收入）。Black 表示：「我認為我們絕不可以指望智慧答案直接替代我們從 Google 搜尋那裡失去的流量。」但希望可以加固與已經在網站上的讀者的互動。
AI 聊天機器人對新聞業的影響
在人們對 AI 計劃的批評面前，其他媒體公司，如 G/O Media，則將 AI 生成內容視為重中之重，這讓員工感到沮喪，並促使工作場所組建工會。Black 堅持說，Macworld、PCWorld、Tech Advisor 和 TechHive 不會發布由 AI 生成的故事，聊天機器人對新聞報道過程可能很有用。使用者的查詢或答非所問的回答可能會提示記者和編輯需要更多報導的地方。「這不以任何方式威脅我們的新聞記者。它完全無法在我們的記者不存在的情況下存在，沒有他們撰寫深入的報導來回答讀者可能提出的每個問題」，Black 表示。
評論
值得信賴的聊天機器人：技術挑戰
建立一個「值得信賴」的 AI 聊天機器人是一項技術上的挑戰。該聊天機器人必須適應不斷變化的內容，並根據不同情境提供準確和可靠的回答。在訓練 AI 聊天機器人時，必須適當地處理不同資料來源和資訊的不確保性。
語境和人類判斷：理解 AI 約束
AI 聊天機器人的一個主要約束是它缺乏人類的判斷力和對語境的理解能力。AI 聊天機器人基於其訓練資料提供回答，而無法具備人類探索和推理的能力。這可能導致聊天機器人在某些問題上提供不確保或錯誤的答案，需要人工介入修正。
評估 AI 答案的可靠性：人或機器？
關於 AI 答案可靠性的評估，引發了有關人與機器的信任的問題。AI 聊天機器人的回答是否應該由編輯或人類審查，或者應該只依賴機器的自動化回答？這可能是一個有爭議的問題，需要仔細平衡 AI 的效率和準確性與人類的判斷和信任。
建議
平衡人工和人工智慧的力量
在開發 AI 聊天機器人時，建議新聞媒體公司平衡好人工和人工智慧的力量。 AI 可以提供快速回答和指導，但在必要時需要人工介入以修正不確保或錯誤的答案。保持人類編輯和審查的角色，確保 AI 聊天機器人提供的訊息是準確的和可靠的，以維護媒體的專業形象。
透明度和開放溝通
透明度和開放溝通是建立信任的關鍵。新聞媒體公司應該向讀者解釋他們如何訓練 AI 聊天機器人、聊天機器人的約束和可靠性以及如何處理因 AI 聊天機器人產生的錯誤。這樣可以建立一個開放的對話，讓讀者理解 AI 技術的發展過程。
持續改進和使用者反饋
持續改進 AI 聊天機器人的能力和準確性是必要的。媒體公司應該積極收集使用者的反饋，理解哪些問題 AI 聊天機器人處理得不好，並相應地進行改進。這樣可以不斷提高 AI 聊天機器人的效能，並增加讀者對其回答的信任。
Technology-人工智慧,新聞媒體,信賴,聊天機器人
