在人工智慧時代，被遺忘權的重要性

<div><h2>人工智慧時代的被遺忘權</h2>

<h3>背景</h3>

今年早些時候，由於涉嫌侵犯隱私，ChatGPT 在義大利被暫停使用。為了推翻這一禁令，這個聊天機器人的母公司 OpenAI 承諾提供一種方式，讓公民可以反對使用他們的個人資料來訓練人工智慧（AI）模型。被遺忘權（RTBF）法律在一些國家的線上隱私權利中扮演著重要角色。它賦予個人要求科技公司刪除他們的個人資料的權利。這個權利是透過 2014 年歐洲聯盟（EU）關於搜尋引擎的重要案例確立的。然而一旦公民反對將他們的個人資料用於 AI 訓練，接下來會發生什麼呢？事實上情況並不那麼簡單。

<h3>難以實現人工智慧大型語言模型的被遺忘權</h3>

我們的網路安全研究員 Thierry Rakotoarivelo 是在 arXiv 預印本伺服器上發表的有關機器取消學習的最新研究論文的共同作者。他解釋說，將 RTBF 應用於像 ChatGPT 這樣的大型語言模型（LLMs）比應用於搜尋引擎更困難。“如果一個公民要求從搜尋引擎中刪除他們的個人資料，相關的網頁可以被刪除並從搜尋結果中移除，” Rakotoarivelo 說道。“對於 LLMs 來說情況更復雜，因為它們沒有儲存特定的個人資料或檔案的能力，也無法根據指令檢索或遺忘具體的訊息片段。”

<h3>大型語言模型是如何工作的？</h3>

LLMs 根據它們在訓練過程中從大型資料集中學到的模式生成響應。“它們不會搜尋網際網路或索引網站以尋找答案。相反，它們根據查詢提供的上下文、模式和詞語之間的關係來預測響應中的下一個單詞，” Rakotoarivelo 說道。

<h3>LLMs 為什麼會出現“幻視”？</h3>

當 LLMs 對提示的回答是不正確的時候，就被稱為“幻視”。然而 Zhang 表示幻視是 LLMs 的特點，而不是錯誤。“幻視不是大型語言模型的錯誤，而是基於它們的設計特點，”Zhang 說。“它們也無法獲取實時資料或在訓練截止後進行更新，這可能導致生成過時或不正確的訊息。”

<h3>如何使 LLMs 遺忘資料？</h3>

機器取消學習是實現 LLMs 忘記訓練資料的當前領先應用，但這是一個很複雜的過程。事實上 Google 已向全球研究人員發起了一個挑戰，以推進這個解決方案。機器取消學習的一種方法是透過加速重新訓練模型的特定部分來刪除確切的資料點。這避免了重新訓練整個模型的成本和時間。但首先需要找到需要重新訓練的模型的哪些部分，這種分段方法可能會產生公正性問題，因為它會刪除可能重要的資料點。其他方法包括使用近似方法來取證、抹除和防止資料降解以及對算法進行對抗性攻擊。Zhang 和他的同事提出了一些「應急」方法，包括對模型進行編輯，以修復模型問題，同時開發更好的解決方法或使用修改後的資料集訓練新模型。在他們的論文中，研究人員透過巧妙的提示使模型遺忘了一個著名的醜聞，提醒它這些訊息已經被要求遺忘。

<h3>記住並從錯誤中吸取教訓</h3>

為 LLMs 帶來的資料隱私問題可能本來可以避免，如果在工具的整個生命周期中融入負責任的人工智慧開發概念。市場上大多數知名的 LLMs 都是“黑盒子”，即它們的內部運行以及它們產生輸出或做出決策的過程對使用者不可見。可解釋的人工智慧描述了一種人類可以追蹤和理解決策過程的模型（與“黑盒子”人工智慧相反）。當應用得好時，可解釋的人工智慧和負責任的人工智慧技術可以提供對模型中問題根本原因的洞察，因為每一步都可以解釋，這有助於發現並消除問題。透過在新技術開發中應用這些以及其他人工智慧倫理原則，我們可以幫助評估、調查和減少這些問題的影響。

<h2>社論：保護資料隱私的挑戰與建議</h2>

<h3>網路時代的資料隱私保護</h3>

隨著資料愈發成為珍貴資產和技術發展的驅動力，保護資料隱私變得越來越重要。大型語言模型（LLMs）等人工智慧技術的出現，為資料隱私保護提出了新的挑戰。在網路時代，人們對隱私的關注正在不斷增加，政府和企業需要採取積極的措施來保護個人的資料隱私權益。

<h3>建立透明度和負責任的 AI 技術</h3>

面對 LLMs 等黑盒子型人工智慧技術，我們需要尋找方法來確保透明度和負責任。可解釋的人工智慧技術可以幫助使用者理解決策過程，確保人工智慧系統的決策過程合理且符合倫理準則。同時政府和企業應該加固對 AI 技術的監管和管理，確保其合法運行並保護個人隱私。

<h3>平衡資料隱私與技術發展</h3>

保護資料隱私並不意味著停止人工智慧技術的發展。我們應該尋求平衡，找到保護個人隱私和推動技術創新的方法。這需要政府、企業和學術界之間的合作，建立相應的法規和標準，以促進各方的共同努力。

<h3>公民的資料隱私權利</h3>

公民擁有保護個人資料隱私的權利，這是一項基本的人權。政府和企業應該尊重這一權利，並採取措施來確保公民的個人資料不被濫用或侵犯。同時公民也應該意識到自己的資料隱私權利，並積極保護和捍衛自己的權益。

<h3>教育和個人責任</h3>

教育是保護資料隱私的關鍵。公眾應該加固對資料隱私的認識，理解自己的權益和風險，並學習如何保護個人資料。此外個人責任也是至關重要的。每個人都應該謹慎使用和分享資料，並遵守相關的隱私保護規則和準則。

<h2>建議</h2>

<h3>推動技術研究和創新</h3>

政府和學術界應該鼓勵和支援對資料隱私保護的技術研究和創新。這包括開發更有效的機器取消學習方法，提供更好的資料視覺化和解釋工具以及研究新的資料隱私保護技術。

<h3>加固監管和法規</h3>

政府應該加固對 AI 技術的監管和法規，確保其在符合法律和倫理準則的情況下運行。這包括制定更嚴格的資料隱私保護法規，加固對違規行為的罰則以及提供更多的執法和監督機構。

<h3>國際合作</h3>

資料隱私保護是一個全球性的問題，需要國際合作來解決。各國政府和國際組織應該加固合作，分享最佳實踐，制定共同的標準和指導原則，並共同應對跨國資料隱私挑戰。

<h3>建立資料文化</h3>

建立一個強調資料責任和資料文化的社會是非常重要的。這需要教育機構、企業和個人共同努力，推廣資料隱私意識和資料倫理規範，提高整個社會對資料隱私保護的重視程度。</div><div>Memory-人工智慧,資料隱私,資料保護,個人隱私,資料安全,資料倫理,</div>