歐盟再次面臨 OpenAI ChatGPT 隱私投訴：“幻覺”問題再度引起關注
幻覺問題持續困擾 OpenAI
OpenAI 面臨著另一起關於隱私的投訴。這次的投訴由一家名為 noyb 的隱私權非營利組織代表一位個人投訴者提出，針對其 AI 聊天機器人 ChatGPT 無法糾正對個人產生的錯誤訊息。GenAI 工具產生明顯錯誤資訊的傾向已經有充分的文獻記錄。然而這也使得這項技術與歐盟的《一般資料保護法規》（GDPR）產生了衝突，該法規監管了區域使用者個人資料的處理方式。對於 GDPR 合規失敗的處罰可達全球年營業額的 4%。對於 OpenAI 這樣一家資源豐富的企業來說更重要的是：資料保護監管機構可以命令改變訊息處理方式，因此 GDPR 的執行可能會重新塑造生成性 AI 工具在歐盟的執行方式。OpenAI 已經在義大利資料保護機構的幹預下被迫做出了一些改變，該機構曾經迫使 ChatGPT 在 2023 年暫時停止在當地的執行。現在 noyb 代表一位未透露姓名的公眾人物（被描述為“公眾人物”）向奧地利資料保護機構提出了最新的 GDPR 投訴，原因是 AI 聊天機器人為其產生了一個錯誤的出生日期。
GDPR 對歐盟個人的權利
根據 GDPR，歐盟地區的人擁有一系列與其相關訊息相關的權利，包括有權要求更正錯誤訊息。noyb 認為 OpenAI 未能履行對其聊天機器人輸出的訊息進行更正的義務。它表示公司拒絕了投訴者對更正出生日期的要求，並回應稱無法技術上進行更正。相反，它提出對某些提示的資料進行篩選或封鎖，例如投訴者的名字。OpenAI 的隱私政策宣告，如果使用者發現 AI 聊天機器人為他們生成了“事實上不準確的訊息”，可以透過 privacy.openai.com 提交“更正請求”，還可以透過 [email protected] 傳送電子郵件提出請求。然而它警告說： “鑒於我們模型的技術復雜性，我們可能無法在每個實例中進行更正。” 在這種情況下，OpenAI 建議使用者要求它從 ChatGPT 的輸出中完全刪除他們的個人訊息。
GDPR 投訴的重點
投訴的其他重點是 GDPR 的透明度問題，noyb 認為 OpenAI 無法說明它對個人生成的資料來自何處，也不知道聊天機器人儲存了有關人們的哪些資料。這一點很重要，因為該法規賦予個人透過表述假定主體存取請求（SAR）要求此類訊息的權利。根據 noyb 的說法，OpenAI 並未充分回應投訴者的 SAR，未能透露有關所處理資料、其來源或接收者的任何訊息。
評論與建議
對於這一投訴，noyb 的資料保護律師 Maartje de Graaf 在一份宣告中評論說：“編造虛假訊息本身就是相當有問題的。但當涉及到對個人的虛假訊息時，可能會帶來嚴重後果。很明顯，公司當前無法使像 ChatGPT 這樣的聊天機器人遵守有關個人資料處理的歐盟法律。如果一個系統無法產生準確和透明的結果，那麼它就不能用於生成有關個人的資料。這項技術必須遵循法律要求，而不是相反。”
OpenAI 表示他們正要求奧地利資料保護機構對 OpenAI 的資料處理進行調查，並敦促其處以罰款以確保未來的合規性。而且他們補充說，這個案件“可能會”透過歐盟合作來處理。OpenAI 在波蘭也面臨著一起非常相似的投訴。去年九月，當地資料保護機構在一名隱私和安全研究人員的投訴後對 ChatGPT 展開了調查，而該研究人員也發現自己無法糾正 OpenAI 對他的錯誤訊息。這一投訴還指控這家 AI 巨頭未能遵守法規的透明度要求。與此同時義大利資料保護機構仍在對 ChatGPT 進行調查。今年一月，它提出了一項草案決定，當時它認為 OpenAI 在許多方面違反了 GDPR，包括與聊天機器人產生關於人的虛假資訊的相關問題。調查結果還涉及其他關鍵問題，如處理的合法性。義大利機構給了 OpenAI 一個月的時間回應他的調查結果，最終的決定仍在等待之中。現在 OpenAI 在其聊天機器人面臨另一個 GDPR 投訴的同時面臨著在不同成員國遭受一系列 GDPR 執行的風險。去年秋天，OpenAI 在都柏林開設了一家地區辦事處——這一變動看來意在透過使得隱私投訴透過進入愛爾蘭資料保護委員會，以達到縮減其監管風險的目的。這是由於 GDPR 中的一個機制，旨在透過將跨境投訴透過引導至公司“主要設立”的單一成員國當局來實現監管的去中心化。
關鍵字：Privacy-ChatGPT、歐盟、隱私投訴、幻覺、風波
延伸閱讀
- Anthropic 的 Claude 在 iOS 平臺上的推出獲得微弱反韇，與 ChatGPT 的首次亮相相比
- 開放 AI （OpenAI）的 ChatGPT 新聞發布：我們當前所知道的事情
- 歐盟盤問伊隆·馬斯克有關內容審查和深偽影風險
- 歐盟計畫強迫通訊應用程式掃描兒童色情影象 可能導致數百萬誤報，專家警告
- 蘋果因開發者批評，在歐盟核心科技費用上再加入更多例外規定
- 歐盟監管機構質疑立法者打破加密掃描兒童色情影象的提案的保密性
- Meta 在歐盟調查 Facebook 和 Instagram 的背景下應對選舉安全
- 《全新樂章！Epic Games 宣布將 Fortnite 引進 iPad，歐盟將 iPadOS 列為《數位市場法》下的「守門人」》
- 蘋果的 iPadOS 也將須遵守歐盟的《數位市場法案》
- 歐盟即將對 Shein 實施最嚴格的線上市場規定
