Zoom 面臨 AI 政策變更引起的信任危機
引言
在 AI 成為大規模語言模型（LLMs）訓練的焦點議題之際，領先的視訊會議和訊息提供商 Zoom，因為早在今年三月默默提出的服務條款（TOS）變更而遭受嚴重指責，此舉引發了關於客戶隱私、選擇和信任的新問題。這些問題將涉及到使用 AI 的每一家公司，但對 Zoom 這樣一家無所不在，從辦公會議到遠端學習都用到的公司而言，這尤其令人擔憂。 昨天，有媒體廣泛報導稱，Zoom 已經對其 TOS 進行了更改，明確表示該公司可以在使用者資料上訓練 AI，而使用者無法選擇拒絕。訊息似乎源於 Ted Gioia（前 Twitter 使用者）的推文，他是一名作家，該推文至今已經有超過 200 萬的點選量。推文中說道：“根據 Zoom 的新服務條款，您必須允許 AI 訓練您的所有資料，包括音訊、人臉識別和私人對話，且無法反悔和退出。不要嘗試與我們新的主人進行談判。” 這一推文的引發了廣泛關注。 根據國際律師事務所 Gunderson Dettmer 的合夥人 Katie Gardner 所說，隨著公司業務的變化，變更其服務條款是司空見慣的事情，而一些隱私法規，例如 CCPA，要求公司每年更新其隱私政策。她在接受 VentureBeat 的電話採訪時表示：“如果企業希望他們所做的變更在法律上對他們具有約束力，他們需要通知使用者，告知其實際操作。”她指出，科技公司正在更新這些條款，是因為他們正受到監管機構的抨擊。“公司為使用使用者資料供訓練目的而獲得的同意方式，成為加固監管審查的目標，”她說道。這其中包括美國聯邦貿易委員會（FTC）最近就 Ring 和亞馬遜的行動解決方案，要求這些公司提供使用資料來進行模型訓練的透明度和準確性的證實。” 納入到罰款之外，這兩家公司還被要求刪除專有模型，這對於大量投資於模型訓練的任何公司來說都是一個具有意義的懲罰。”她說。記者撰文
為了回應外界的爭議，Zoom 今天早上在 X（前 Twitter）上發表了一篇帖子，稱“作為我們對透明度和使用者控制的承諾的一部分，我們將關注我們服務的兩個重要方面：Zoom 的 AI 功能和用於產品改進目的的客戶內容共享。我們的目標是使 Zoom 的帳戶所有者和管理員對這些功能和決策有控制權，我們將闡述我們如何實現這一目標。” Zoom 在一篇相關的部落格文章中進一步解釋了上述內容，但似乎只增加了更多的困惑。Zoom 寫道：“為了再次強調：我們不會在沒有客戶同意的情況下使用音訊、影片或聊天內容來訓練我們的模型。”然而該公司複雜而冗長的服務條款檔案很難讓普通使用者理解。一瞥之下，不會讓普通使用者清楚理解 AI 政策。此外 Zoom 自己的生成 AI 功能也令人困惑：例如，該公司解釋說，最近已推出一項免費試用功能“Zoom IQ Meeting Summary”和“Zoom IQ Team Chat Compose”，以增強 Zoom 的使用者體驗。Zoom 解釋說，這些功能提供了自動會議摘要和基於 AI 的聊天選項。“Zoom 帳戶所有者和管理員可以控制是否為其帳戶啟用這些 AI 功能。”該公司在部落格文章中寫道。當這些服務被啟用時，該文章進一步寫道：“您還將被提供一個透明的同意過程，以訓練我們的 AI 模型使用您的客戶內容。您的內容僅用於改進這些 AI 服務的效能和準確性。即使您選擇共享您的資料，也不會用於任何第三方模型的訓練。”然而部落格文章並未提到這項服務預設情況下是開啟的，使用者只需勾選一個小框框就可以同意。當通話開始時，通話中的其他人將會收到通知：“已啟用會議摘要” 。該彈窗上顯示：“帳戶所有者可以允許 Zoom 使用您的輸入和由 AI 生成的內容，用於提供此功能和改進 Zoom IQ 產品，包括模型訓練。”參與者可以選擇點選“離開會議”或“確保”兩種選項。這意味著如果使用者不離開通話，他們就自動同意 Zoom 收集資料以建立和改進其 AI 模型。然而使用者在工作會議或遠端教室中真的有選擇離開的權利嗎？事實上對於大多數人來說今天的網路使用已經使得他們無法理解公司如何使用他們的資料，即使他們被給予行使選擇的地方。對 Zoom 的 AI 爭議的背景
Zoom 在其產品中使用 AI 的爭議並不新鮮。在 2022 年 4 月，該公司因為表示可能在其銷售產品中使用情感 AI 功能而遭到抨擊。一個非營利的倡導組織“Fight for the Future”發表了一封公開信，稱 Zoom 可能的舉措將是“對使用者信任的重大違背”，這是一種“天生具有偏見”的行為，只是“一種市場手段”。 在過去幾個月中，Zoom 已全力投身於生成 AI 領域。今年 3 月，Zoom 宣布與 OpenAI 合作，最近又表示將與 AI 新創公司 Anthropic 合作，將 Anthropic 的 Claude AI 助手整合到 Zoom 的產品平臺中。該公司還透過其全球投資部門對支援 Google 的 Anthropic 進行了一筆未公開的投資。但值得關注的是，當下的爭議不僅在社交媒體上廣泛流傳，還引起了主流媒體的注意。而這發生在 Zoom 業務處於一個非常脆弱時期。Zoom 在 COVID-19 大流行期間受益於遠端工作的轉變，但在人們開始恢復常規工作和通勤後，該公司的股價在 2022 年底暴跌。據報導，甚至 Zoom 自己都讓員工回到辦公室。現在 Zoom 最不需要的就是一個進一步引起使用者反感的抨擊。 身處當下的 AI 之下，企業界如何在充分利用 AI 的同時保持使用者的信任、隱私和同意，這是一個超出 Zoom 範疇的討論，也是所有技術公司和出版商都必須面對的挑戰。根據 Gardner 的說法，企業可能意圖減少或降低監管檢查的風險。她提醒公司們應要考慮當下的公眾環境。“如果你的公司正接受監管機構的檢查，人們會關注這些細微的變化”她說道。“在這個當下，每個人都非常關注公司如何處理使用者資料，因此公司需要在避免監管檢查與保持與終端使用者之間的信任之間取得平衡。”總結
Zoom 面臨的 AI 政策變更引起的信任危機站在了一個十分微妙的時刻。企業需要仔細思考如何在使用 AI 的同時保持客戶信任、隱私和同意。政府和監管機構也需要更加關注以保護消費者的權益和隱私。這個議題涉及到訊息收集、同意過程的透明度以及資料的使用方式等問題。只有透過平衡企業的商業利益和消費者的權益，才能在人工智慧的發展中找到一個公正和公平的平衡點。Trust-Zoom,AI,政策變更,消費者信任,背叛
