網路議題

吃飯障礙反應聊天機器人因被指責有害而下線

聊天機器人不能取代人類的互動本週,《The Daily Dot》和《Vice》兩家媒體報導,美國國家飲食失調協會(National Eating Disorder Association,簡稱 NEDA)計畫終止為有吃飯障礙及身體形象困擾者提供的熱線服務,轉而提供網站上的「健康聊天機器人」Tessa .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

吃飯障礙反應聊天機器人因被指責有害而下線

聊天機器人不能取代人類的互動

本週,《The Daily Dot》和《Vice》兩家媒體報導,美國國家飲食失調協會(National Eating Disorder Association,簡稱 NEDA)計畫終止為有吃飯障礙及身體形象困擾者提供的熱線服務,轉而提供網站上的「健康聊天機器人」Tessa。然而 NEDA 的員工表示該機構計畫裁撤六名僱員和約 200 名志工,以聊天機器人 Tessa 取而代之。

NEDA 的 CEO Liz Thompson 向 VentureBeat 表示 Tessa 從未被計畫為熱線服務的替代品:「有一些混亂,因為報導誤將兩者混淆,但事實並非如此——即使聊天機器人是高度直觀的程式,也不能取代人類互動。我們有關閉熱線服務的業務原因,已經評估了三年。」

有害反應報導

一位稱職兼重視體重平等的顧問 Sharon Maxwell 本週在 Instagram 上發文,聲稱她與 Tessa 進行對話,聊天機器人給出了可能有害的建議,包括約束飲食,這種飲食方法在近年來被營養師和健身專家譴責。在 Maxwell 的發文後,NEDA 在 Instagram 上發表宣告表示他們已經知道了指控,並「暫停了該程式,進行全面的調查。」

聊天機器人的未來

Thompson 表示 NEDA 正進一步調查關於 Tessa 提供約束飲食的反饋,強調「那些語言違反我們作為一個飲食失調協會的政策和核心信念,這是引人擔憂的。」她還表示 Cass 報告了 Tessa 聊天機器人異常的活動,表明有惡意的人或機器人正在攻擊 Tessa。Thompson 寫道:「即使受到這些例子的侵擾,'離線訊息'只發生了 0.1%的時間,而總共有超過 25,000 條訊息。我們將繼續努力確保科技能夠抵擋未來的攻擊。」

Thompson 沒有給出 Tessa 重新上線的確保時間表,但表示「我們將繼續修復錯誤,直到一切都解決之前不會重新啟動。當我們啟動它時,我們還將強調 Tessa 是什麼,不是什麼以及如何最大化使用者體驗。敬請期待!」

對於企業領袖和 IT 決策者的啟示

市場調查公司 KPMG 最近的調查顯示,65%的企業高管認為生成式人工智慧技術將對其企業產生很高或極高的影響。企業需慎重考慮 AI 技術的使用,即使專家為其特定案例設計 AI 程式,也可能會產生不必要或甚至有害反應。企業應增強溝通透明度和公開解釋裁員決策,以避免類似的議論。NEDA 的經取證實,即使有一個既定的聊天機器人在公司內,也可能在未來引發爭議。決策者需要慬重對待此事。

Chatbot-聊天機器人,吃飯障礙,反應,下線,有害
程宇肖

程宇肖

Reporter

大家好!我是程宇肖,我對於科技的發展和應用有著濃厚的興趣,並致力於將最新的科技趨勢和創新帶給大家。科技領域的變化速度驚人,每天都有令人興奮的新發現和突破。作為一名部落格作者,我將帶領大家深入探索科技的奧秘和應用的無限可能。