Zoom 面臨 AI 政策變更引發的信任危機
問題背景
視訊會議和通訊提供商 Zoom 因為在三月份悄悄修改其服務條款（TOS）相關 AI 的部分而遭受嚴厲的批評，這引發了有關顧客隱私、選擇權和信任的新疑問。這些問題將適用於那些正在應對 AI 的公司，而在大型語言模型（LLM）如何訓練個人資料的問題已經引發了廣泛的辯論。對於像 Zoom 這樣的公司而言，這尤其令人擔憂，因為該公司已經成為辦公會議到遠端學校等領域無所不在的存在。
昨天，廣泛傳播的報導顯示，Zoom 已經修改了其服務條款，澄清了該公司可以使用使用者資料來進行 AI 訓練，而使用者無法選擇不參與。據說這則訊息始於作者 Ted Gioia 在 X（前稱 Twitter）上的一條帖子，當前已經有超過 200 萬的瀏覽量。他在帖子中寫道：“Zoom 服務條款現在要求你無條件無可撤銷地允許 AI 訓練使用你的所有資料，包括音訊、面部識別和私人對話。不要試圖和我們的新宰制者談判。”
法律專家的宣告
國際律師事務所 Gunderson Dettmer 的合夥人 Katie Gardner 表示公司經常根據實踐的變化而頻繁更新其服務條款，而一些隱私法規（如加洲隱私法）要求公司每年更新他們的隱私政策。她在接受 VentureBeat 的電話訪談時表示：“如果公司希望這些變更具有法律約束力，他們需要通知使用者，告知他們實踐的重大變化。”她還指出，科技公司當前正在進行這些更新，是因為他們正受到監管機構的抨擊。她說：“公司為使用使用者資料進行訓練目的而收集同意的方式是監管機構加固審查的目標。”她還提到聯邦貿易委員會最近對 Ring 和亞馬遜的行動進行的解決方案，涉及到通知使用者關於其資料用於訓練模型的透明度和準確性。她表示：“對這兩家公司的結果是要求它們刪除專有模型，而這對於任何大量投資於培訓自己模型的公司來說都是一種有意義的懲罰。”
Zoom 回應引發的騷動
作為對引發的騷動的回應，Zoom 在今天早上在 X 上發文，稱“作為我們承諾透明度和使用者控制的一部分，我們在我們的服務中提供了清晰度，涵蓋了 Zoom 的 AI 功能以及用於產品改善目的的客戶內容共享。我們的目標是使 Zoom 帳戶擁有人和管理員能夠對這些功能和決策進行控制，我們將在這方面進行解釋。”在一篇引人困惑的部落格文章中，Zoom 寫道：“再強調一下：我們不會在未經客戶同意的情況下使用音訊、影片或聊天內容來訓練我們的模型。”然而 Zoom 極其複雜而冗長的服務條款檔案很難理解。只要快速一瞥，普通使用者就無法清楚地理解到關於 AI 政策的內容。
此外 Zoom 自己的生成性 AI 功能也令人困惑。例如，該公司解釋道，最近推出了 Zoom IQ 會議摘要和 Zoom IQ 團隊聊天編寫兩項功能來改善 Zoom 體驗。這些功能提供了自動會議摘要和基於 AI 的聊天編寫。Zoom 在公司的部落格文章中寫道：“Zoom 帳戶擁有人和管理員可以控制是否為其帳戶啟用這些 AI 功能。”當這些服務被啟用時，“您還將被提供一個透明的同意程式，以使用您的客戶內容來訓練我們的 AI 模型。”部落格文章中還表示：“您的內容僅用於改善這些 AI 服務的效能和準確性。即使您選擇共享您的資料，也不會用於訓練任何第三方模型。”然而該部落格文章並未提到該服務已經預設開啟，並且有一個小覆選框。當通話開始時，通話中的其他人會收到一條通知，顯示“已啟用會議摘要”。彈出視窗上寫著：“帳戶擁有人可能允許 Zoom 存取並使用您的輸入和透過 AI 生成的內容，用於提供該功能和 Zoom IQ 產品改進，包括模型訓練。”參與者可以點選“離開會議”或“知道了”。這意味著如果使用者不離開通話，他們將自動同意允許 Zoom 收集資料來建立和改進其 AI。但是使用者是否真的有選擇在工作會議或遠端教室中離開的選擇呢？
隱私與個人資料使用的問題
此外現實情況顯示，如今的網路使用使得大多數人無法理解公司如何使用他們的資料，即使他們有地方可以行使他們所面臨的選擇。宣告並非所有情況下對於使用者來說都是清晰明了的。而特別是在涉及到孩子的情境下，影片和音訊的使用可能會引起更多的消費者不安。
Zoom 在 AI 問題上的爭議
Zoom 在其產品中使用 AI 遭到爭議並非頭一遭。在 2022 年 4 月，Zoom 因為表示可能在其面向銷售的產品中增加情感 AI 功能而受到批評。一個非營利倡導組織“爭取未來的戰鬥”向 Zoom 發表公開信，稱 Zoom 的可能提供將是“對使用者信任的重大破壞”，“固有的具有偏見”以及“一種行銷手法”。過去幾個月，Zoom 在生成 AI 方面作出了大量投資。今年三月，該公司宣布與 OpenAI 合作，最近又表示將與 AI 新創公司 Anthropic 合作，將 Anthropic 的 Claude AI 助理整合到 Zoom 的生產力平臺中。Zoom 還透過其全球投資部門對由 Google 支援的 Anthropic 進行了一筆不公開數額的投資。然而當前的爭議不僅在社交媒體上瘋狂傳播，而且在主流媒體上都引起了廣泛關注，對 Zoom 的業務來說是一個特別棘手的時刻。Zoom 在 COVID-19 大流行期間受益於遠端工作的轉變，但當人們開始恢復常規生活和上班通勤時，該公司的股價在 2022 年底暴跌。據報導，甚至連 Zoom 自己都告訴員工回到辦公室。此時，Zoom 最不需要的是進一步疏遠使用者的風潮。這個問題當然不僅僅是 Zoom 公司的問題，而是涉及到所有科技公司和出版商：在利用 AI 的同時美國的企業又將如何保持顧客的信任、隱私和同意？他們可以從 Zoom 顯然犯下的糟糕的公關錯誤中學到什麼呢？Gardner 表示公司可能一方面希望最小化或減輕審查的風險，但也應該考慮到當前的環境。她說：“如果你是一家受到監管機構關注的公司，人們會關注這些微小的變化。”她還表示：“在當前環境下，人們對公司如何使用使用者資料非常敏感，公司需要在避免監管檢查和保持與終端使用者之間的信任之間找到平衡和界線。”
延伸閱讀
- Google 提議放寬 AI 政策中的版權與出口規則，引發爭議！
- AI 先驅李飛飛：AI 政策必須根據「科學，而非科幻」！
- OpenAI 悄然修改政策檔案 刪除「政治中立 AI」的引述！
- 領英創辦人霍夫曼警示：馬斯克在 AI 政策上可能存在利益衝突！
- 「OpenAI 支援參議院新法案，或將改變美國 AI 政策未來！」
- 黑板創始人將原設計給老師的 Zoom 附加元變成商務工具
- Zoom 推出 Vision Pro 應用程式，擁有數位人物、3D 檔案等功能
- 「溫煦擺脫 Zoom 工具，將暖熱商機引導至銷售」
- Google Nest Hub Max 不再支援 Google Meet 和 Zoom
- Android Auto 現在可以讓司機進行 Zoom 和 Cisco 會議通話
