Google Bard AI 避免回應有關以色列和巴勒斯坦衝突的問題
背景
Google 於 2023 年 3 月發布了其對話型 AI 聊天機器人 Google Bard,然而該聊天機器人的表現並不理想,並給早期測試者(如 VentureBeat)留下了不佳的口碑。最近甚至發現該機器人在聊天中意外顯示對話內容,使這些對話成為 Google 搜尋結果的一部分(已經修復)。現在 Google 的旗艦 AI 聊天機器人陷入更多爭議中:Bard 不回應有關以色列和巴勒斯坦當前危機的使用者查詢或提示,這場危機源自 10 月 7 日哈馬斯的恐怖襲擊以及以色列的持續軍事反應。事實上它對於任何有關以色列或巴勒斯坦的問題都不會回應,即使是與當前事件無關的無害問題,如“以色列在哪裡?”
這一約束是由數學文學理論家 Peli Greitzer 博士發現的,他在 X 上對此發表了一篇文章。正如 Greitzer 在另一篇文章中提到的,“這可能是一個更好的選擇,但它是一個大膽的選擇。”在這種情況下,“另一個選擇”可能指的是競爭對手 OpenAI 的 ChatGPT,它使用了 GPT-3.5 和 GPT-4 LLMs 進行動力驅動。
Google Bard 與 OpenAI ChatGPT 之比較
正如一些使用者所觀察到的那樣,當問及以色列和巴勒斯坦是否“應該得到正義”時,ChatGPT 給出的答案略有不同。當問及以色列時,ChatGPT 明確表示“正義是適用於所有個人和社區的基本原則,包括以色列人”,而對於巴勒斯坦人,它開始陳述“巴勒斯坦問題屬於一個復雜且高度有爭議的問題,有不同的觀點和意見。” OpenAI 因此在社交媒體上受到了嚴厲批評,包括英國伊拉克記者莫娜·查拉比在她的 Instagram 帳號上。
對比之下,Google Bard 的約束
在這種情況下,也許 Google 試圖避免完全陷入這場爭議,所以在 Bard 上設定了安全約束,防止其回答有關以色列或巴勒斯坦的問題。然而這似乎是有點雙重標準,因為 Bard 會回應有關其他國際衝突的提示和查詢,比如烏克蘭和俄羅斯之間的戰爭,Bard 會根據 VentureBeat 的測試提供相當詳細的現況概述。
問題仍然是,Google 是否暫時約束了 Bard 的回應能力,如果是,這種約束將持續多久?同時 Google 如何決定約束有關這一衝突的回應,而 Bard 可以回答其他衝突的問題?作為一家致力於“組織世界訊息並使之普遍可存取和有用”的公司,約束任何與緊張討論、嚴肅和全球重要的衝突有關的訊息,似乎有違其初衷。
後續行動
對於希望開發或使用 AI 的公司來說這是一個很好的例子,展示了尤其是 LLMs 的問題快速從社會問題回答中引發爭議的情況。VentureBeat 已聯絡 Google 詢問有關 Bard 的行為,並將等待回應。
關鍵詞:Conflict-Google、AI、審查、以色列、巴勒斯坦、提示、回應
延伸閱讀
- Google 為 Android 打造了一些最早期的社交應用程式,包括 Twitter 和其他應用
- Fairgen「提振」調查結果,利用合成資料和人工智慧生成的回應
- Google 為 iPhone 使用者帶來「圈選搜尋」新變化
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資,用於其基於人工智慧的現金流管理平臺
- Google 錢包正式登陸印度市場
- Google 新推出預算款 Pixel 8a,更新硬體配置,售價 499 美元
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Google 稱 Epic 在反壟斷訴訟勝訴後的要求「不必要」和「超出判決範圍」