機器遺忘：人工智慧中的新挑戰
機器遺忘的重要性和挑戰
人工智慧（AI）和機器學習（ML）在許多領域中的應用已被證實非常有效，但這些算法卻無法自主地遺忘、刪除過時、錯誤或私人的資料。這個問題引出了機器遺忘這一新興領域的需求。隨著每天似乎都有新的訴訟案件出現，ML 系統高效地“遺忘”訊息對於企業來說變得至關重要。這種無法遺忘訊息的情況對隱私、安全和倫理有重大影響。
機器遺忘的概念和機制
機器遺忘是刪除特定資料集對 ML 系統的影響的過程。當資料集出現問題時，修改或刪除資料集通常是最簡單的解決方案。但是如果資料已用於訓練模型，情況就會變得複雜。ML 模型本質上是黑盒子，很難理解特定資料集在訓練過程中對模型產生了怎樣的影響，更難撤消有問題資料集的影響。
機器學習公司 OpenAI 的 ChatGPT 和其他一些生成性 AI 藝術工具已因其訓練資料引發了不少爭議和法律訴訟。由於成員推論攻擊顯示可以推斷出特定資料是否被用於訓練模型，引發了對隱私的擔憂。這意味著模型可能透露了其資料參考者的訊息。如果在訴訟中能夠展示已完全刪除對此資料集的使用，機器遺忘不會使公司完全免於法律紛擾，但將有助於公司的抗辯。
然而現有的技術無法在使用者註冊資料刪除時，只刪除相關的資料集，而無需重建整個模型，這對於廣泛使用的 AI 工具的發展至關重要。
機器遺忘的挑戰和解決方案
機器遺忘面臨著一些挑戰和約束，例如效率、標準化、效力、隱私、相容性和可擴充套件性。為理解決這些問題，需要進一步的研究和跨學科合作。
然而機器遺忘的研究取得了一些進展。過去幾年，研究人員提出了各種高效和有效的機器遺忘方法。然而當前還沒有找到完整的解決方案。
為應對這些挑戰，公司可以組建跨學科的 AI 專家、資料隱私律師和倫理學家團隊，共同識別潛在的風險並密切關注機器遺忘領域的進展。
機器遺忘的未來
Google 最近宣布了首個機器遺忘挑戰賽。該挑戰旨在解決機器遺忘算法面臨的問題，包括統一和標準化評估指標以及尋找解決方案。除了 Google 的努力外，對 AI 和 ML 公司的訴訟持續增加也將不可避免地促使這些公司採取相應行動。
展望未來，我們可以預見硬體和基礎設施的進一步發展，以支援機器遺忘的計算需求。跨學科合作可能會增加，有助於推動開發的流程。法律專家、倫理學家和資料隱私專家可能會與 AI 研究人員共同努力，以對其發展進行規範。
最後隨著隱私問題繼續成為新聞頭條，公眾對機器遺忘的認識也可能以不可預測的方式影響其發展和應用。
對企業的啟示
對於使用大資料集來訓練 AI 模型的企業來說理解機器遺忘的價值至關重要。以下是一些可行的建議：
1. 監測研究：及時關注學術界和行業的最新研究，特別是關注 Google 的機器遺忘挑戰的結果。訂閱 AI 研究通訊和關注 AI 思想領袖的觀點。
2. 實施資料處理規則：仔細檢查您當前和過去的資料處理實踐，避免在模型訓練階段使用可疑或敏感資料。建立適當處理資料的程式或審查流程。
3. 考慮跨學科團隊：機器遺忘的多方面性受益於多樣化的團隊，例如 AI 專家、資料隱私律師和倫理學家。這個團隊可以幫助確保您的實踐符合倫理和法律標準。
4. 考慮重新訓練成本：為最壞情況做好準備。考慮重新訓練成本，以防機器遺忘無法解決可能出現的任何問題。
跟上機器遺忘的步伐是對使用大資料集來訓練 AI 模型的企業的明智長期策略。透過實施上述策略中的一項或多項，企業可以主動管理由於資料使用引起的任何問題。
結論
AI 和機器學習是不斷發展的領域，機器遺忘已成為這些領域的重要組成部分，使其能夠更負責任地適應和發展，確保更好地處理資料並保持模型的質量。實施機器遺忘已經成為企業的必要選擇。在更廣泛的語境中，機器遺忘符合負責任 AI 的理念，強調需要透明、負責任和優先考慮使用者隱私的系統。隨著領域的不斷發展和評估指標的標準化，實施機器遺忘將變得更加可行。對於經常使用 ML 模型和大資料集的企業來說這一新興趨勢需要採取積極的態度。
延伸閱讀
- 本週人工智慧大事記：OpenAI 轉向非安全應用
- AI 蓬勃發展，馬斯克對抗機械革命
- OpenAI 成立團隊控制「超智慧」AI，卻任憑其枯萎——訊息來源指出
- 開放 AI 與 Reddit 資料簽署合約，訓練人工智慧
- 智慧錢包 Kudos 獲得 1000 萬美元投資，研發 AI 功能挑選最佳信用卡
- 索尼音樂警告科技公司避免未經授權使用其內容訓練人工智慧
- Strava 啟用人工智慧防篡改排行榜，推出「家庭」計畫、深色模式等
- 參議院研究建議：每年至少撥款 320 億美元用於人工智慧計劃
- Google I/O 盛會 AI 領域的重大訊息
- Google 掃描通話的人工智慧或增加預設審查，隱私專家發出警告
