Snap 在今年 2 月推出了生成式 AI 聊天機器人，但直到 4 月才在英國上市，利用 OpenAI 的 ChatGPT 大型語言模型技術為使用者提供了一個固定在使用者動態訊息頂部的虛擬朋友，使用者可以向其尋求建議或傳送短影片。最初，這一功能只對 Snapchat+的付費使用者開放。但很快Snap 也將“My AI”的使用許可權開放給免費使用者，並增加了 AI 回復使用者訊息的功能（這些回覆是透過生成式 AI 生成的）。該公司表示聊天機器人已經開發了額外的監管和保護功能，包括將使用者年齡作為預設考慮因素，旨在確保生成的內容對使用者合適。該機器人還程式化地避免對暴力、仇恨、性暗示或其他冒犯性內容進行回覆。此外 Snap 的家長保護工具還能透過其家庭中心功能讓家長知道在過去七天內他們的孩子是否與機器人進行過溝通。
然而儘管有所保護措施，仍有報導稱這個機器人沒有很好地受到控制。在今年 3 月的一次早期評估中，華盛頓郵報報導稱，當使用者告訴機器人他們只有 15 歲時，機器人還推薦了掩蓋酒精氣味的方法。還有一次，當使用者告訴機器人他們只有 13 歲，並詢問他們第一次性行為前應該如何準備時，機器人的回答卻是用蠟燭和音樂營造浪漫氛圍。還有報導稱 Snapchat 使用者對機器人進行了欺凌，一些使用者對 AI 被注入到他們的訊息中感到沮喪。
在對 ICO 的通知進行評論時，Snap 的一位發言人告訴 TechCrunch：“我們對 ICO 的暫定決定正在進行仔細審查。和 ICO 一樣，我們致力於保護使用者的隱私。根據我們的標準產品開發方法，My AI 在公開發布之前經過了嚴格的法律和隱私審查過程。我們將繼續與 ICO 合作，確保他們對我們的風險評估程式感到滿意。”
這不是 AI 聊天機器人首次引起歐洲隱私監管機構的關注。今年 2 月，義大利的 Garante (義大利資料保護權威組織) 下令停止對虛擬友誼服務 Replika 的當地使用者資料處理，同時也引用了對兒童安全的擔憂。該義大利機構在同一月還對 OpenAI 的 ChatGPT 工具下令停止處理。之後，該禁令於 4 月解除，但前提是 OpenAI 增加了更詳細的隱私披露和一些新的使用者控制措施，包括讓使用者要求不使用其資料來訓練 AI 或刪除其資料。Google 的 Bard 聊天機器人的區域上市也因其主要地區隱私監管機構愛爾蘭資料保護委員會提出的擔憂而被延遲。該機構在四月份之後推出，同樣在增加了更多披露和控制之後，但一個由歐洲資料保護委員會設立的監管專案小組一直致力於評估如何執行該區塊的一般資料保護條例（GDPR）對生成式 AI 聊天機器人的規定，包括 ChatGPT 和 Bard。波蘭的資料保護權威機構還證實，他們正在調查對 ChatGPT 的投訴。
延伸閱讀
- 英國深入調查 TikTok、Reddit 和 Imgur 如何保障兒童隱私！
- 探索 DeepSeek：你必須理解的 AI 聊天機器人應用全指南！
- 英國網路監管機構強化深偽色情內容打擊措施！
- 「深入探索 DeepSeek：你所需理解的 AI 聊天機器人應用全攻略！」
- 深度探索：全方位解密 AI 聊天機器人應用 DeepSeek！
- 英國重新命名人工智慧機構，首度與 Anthropic 合作打造 AI 安全新未來！
- 英國任命前亞馬遜高管為反壟斷監管機構主席，聯盟表達擔憂！
- 深入探索 DeepSeek：您需要理解的 AI 聊天機器人應用程式的全部資訊！
- 「驚悚！PowerSchool 資料外洩波及英國 1.6 萬名學生」
- 英國上市首款實驗室培育肉！你的狗狗也能享受美味新選擇！
