Snap 的 AI 聊天機器人引起了英國的資料保護監管機構的關注，後者表示該工具可能對兒童隱私構成風險。英國訊息專員辦公室（ICO）今天宣布，已對 Snap 發出初步執行通知，指稱該公司“可能未能正確評估其生成式 AI 聊天機器人‘My AI’所帶來的隱私風險。” ICO 的行動並不是一項違規行為的判定。但這項通知表明，英國監管機構擔心 Snap 可能未採取措施確保該產品符合資料保護規則，而這些規則從 2021 年起已進一步升級，包括了兒童設計守則。監管機構在新聞稿中寫道：“ICO 的調查暫時發現，Snap 在推出‘My AI’前進行的風險評估並未充分評估生成式 AI 技術對兒童尤其具有的資料保護風險。”Snap 現在將有機會回應監管機構的擔憂，然後 ICO 會對該公司是否違反規定做出最終決定。“我們調查的初步結果顯示，Snap 在推出‘My AI’之前未能充分識別和評估對兒童和其他使用者隱私權的風險。我們明確表示機構必須在考慮 AI 帶來的風險時同時考慮到其好處。今天的初步執行通知顯示，我們將採取行動來保護英國消費者的隱私權，”訊息專員約翰·愛德華茲在一份宣告中補充道。
Snap 在今年 2 月推出了生成式 AI 聊天機器人，但直到 4 月才在英國上市，利用 OpenAI 的 ChatGPT 大型語言模型技術為使用者提供了一個固定在使用者動態訊息頂部的虛擬朋友，使用者可以向其尋求建議或傳送短影片。最初，這一功能只對 Snapchat+的付費使用者開放。但很快Snap 也將“My AI”的使用許可權開放給免費使用者，並增加了 AI 回復使用者訊息的功能（這些回覆是透過生成式 AI 生成的）。該公司表示聊天機器人已經開發了額外的監管和保護功能，包括將使用者年齡作為預設考慮因素，旨在確保生成的內容對使用者合適。該機器人還程式化地避免對暴力、仇恨、性暗示或其他冒犯性內容進行回覆。此外 Snap 的家長保護工具還能透過其家庭中心功能讓家長知道在過去七天內他們的孩子是否與機器人進行過溝通。
然而儘管有所保護措施，仍有報導稱這個機器人沒有很好地受到控制。在今年 3 月的一次早期評估中，華盛頓郵報報導稱，當使用者告訴機器人他們只有 15 歲時，機器人還推薦了掩蓋酒精氣味的方法。還有一次，當使用者告訴機器人他們只有 13 歲，並詢問他們第一次性行為前應該如何準備時，機器人的回答卻是用蠟燭和音樂營造浪漫氛圍。還有報導稱 Snapchat 使用者對機器人進行了欺凌，一些使用者對 AI 被注入到他們的訊息中感到沮喪。
在對 ICO 的通知進行評論時，Snap 的一位發言人告訴 TechCrunch：“我們對 ICO 的暫定決定正在進行仔細審查。和 ICO 一樣，我們致力於保護使用者的隱私。根據我們的標準產品開發方法，My AI 在公開發布之前經過了嚴格的法律和隱私審查過程。我們將繼續與 ICO 合作，確保他們對我們的風險評估程式感到滿意。”
這不是 AI 聊天機器人首次引起歐洲隱私監管機構的關注。今年 2 月，義大利的 Garante (義大利資料保護權威組織) 下令停止對虛擬友誼服務 Replika 的當地使用者資料處理，同時也引用了對兒童安全的擔憂。該義大利機構在同一月還對 OpenAI 的 ChatGPT 工具下令停止處理。之後，該禁令於 4 月解除，但前提是 OpenAI 增加了更詳細的隱私披露和一些新的使用者控制措施，包括讓使用者要求不使用其資料來訓練 AI 或刪除其資料。Google 的 Bard 聊天機器人的區域上市也因其主要地區隱私監管機構愛爾蘭資料保護委員會提出的擔憂而被延遲。該機構在四月份之後推出，同樣在增加了更多披露和控制之後，但一個由歐洲資料保護委員會設立的監管專案小組一直致力於評估如何執行該區塊的一般資料保護條例（GDPR）對生成式 AI 聊天機器人的規定，包括 ChatGPT 和 Bard。波蘭的資料保護權威機構還證實，他們正在調查對 ChatGPT 的投訴。
Privacy-Snap,AI 聊天機器人,英國,兒童隱私問題
延伸閱讀
- 美國與英國警方識破、控告俄羅斯 LockBit 勒索軟體幫派領袖
- 聯合保健資料洩漏應提醒英國和 NHS！
- Snapchat 的新功能：AI 聊天機器人能幫你設定應用內提醒和倒數計時
- Thoma Bravo 以 50 億美元收購英國資安公司 Darktrace
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- TikTok Shop 將二手奢侈時尚擴充套件至英國
- 印度出行平臺 Ola 退出國際市場，終止在英國、澳洲和紐西蘭的業務
- 如何 Ember 在英國建立全電動城際巴士網路
- 英國確保對 Three 和 Vodafone 計劃合併 190 億美元的深入反壟斷調查
- 英國國民健康服務（NHS）要看醫生？先準備好提供個人資料
