Enhancing AI Robustness for More Secure and Reliable Systems
By
Introduction
在 EPFL（洛桑聯邦理工學院）工程學院的研究人員們徹底重新思考了大多數人工智慧（AI）系統對抗攻擊的方式。他們開發了一種新的訓練方法，以確保機器學習模型，特別是深度神經網路，能夠持續按照預期效能執行，顯著提升其可靠性。這項開創性的研究是 EPFL 工程學院的資訊和推理系統實驗室（LIONS）與賓夕法尼亞大學的研究人員之間的密切合作結果。他們的研究結果已經在預印本伺服器 arXiv 上公開發布。 在資料量超過人類能力的數位世界中，AI 系統在做出重要決策方面擁有巨大的權力。然而這些系統並不免於微小但強大的攻擊。希望欺騙一個系統的人可以對輸入資料進行微小的更改，狡猾地欺騙 AI 模型。EPFL 的 LIONS 團隊，包括博士生 Fabian Latorre 在內，成功地增強了對這些攻擊的安全防護。AI 系統的弱點和威脅
以 YouTube 等影片流媒體平臺為例，平臺上的影片太多，人類無法一一審核。AI 被依賴於分析內容來將影片分類，以確保其符合特定標準。這個自動過程被稱為"分類"。但是分類系統是可以被攻擊的，可以被狡猾地破壞。一位惡意的駭客（在博弈論中稱為"對手"）可以向一個包含不適當內容的影片新增背景噪音。儘管人眼完全無法察覺這種背景噪音，但它足以使 AI 系統混淆，從而繞過 YouTube 的內容安全機制。這可能導致兒童接觸到暴力或性化內容，即使已啟用了家長控制。這只是許多類似攻擊中的一個例子，並且指向了 AI 分類系統中的一個廣為人知的弱點。這一弱點令人擔憂，因為這些系統在影響我們日常生活的方式越來越多，從確保自動駕駛車的安全，到提升機場的安全性以及改善醫療診斷。解決方法：超越零和博弈
為理解決這些攻擊的問題，工程師們透過所謂的對抗性訓練來增強系統的安全防護，這一機制類似於疫苗對抗病毒。傳統上，對抗性訓練被形式化為一個雙方零和遊戲。防守方試圖最小化分類錯誤，而對手則試圖最大化分類錯誤。如果一方贏了，則另一方輸掉，這就是所謂的零和。然而這種理論方法在從概念過渡到現實應用時會面臨挑戰。 為理解決這個問題，研究人員提出了一個實際改變範式的解決方案：非零和遊戲策略。EPFL 的 LIONS 與賓夕法尼亞大學的研究人員合作，開發了一種新的對抗性訓練方法和算法，不同於傳統的零和方法，需要防守方和對手最佳化不同的目標。這導致了一個獨特的形式，一種連續的雙層最佳化，他們稱之為 BETA，它代表著最好的有針對性攻擊。在技術上，防守方透過最小化分類錯誤的上界，而對手則透過使用一個錯誤邊緣的目標來最大化分類錯誤機率。透過建立一個更接近實際情況的強大對手的對抗模型，AI 分類系統可以得到更有效的訓練。防守方不僅僅是針對直接威脅進行最佳化，而是採用全面策略，涵蓋最壞的可能威脅。結論和展望
Cevher 教授強調"Fabian 和他的合作者們不僅僅將對抗性機器學習視為孤立存在，而是將其置於機器學習理論、可靠性和韌性的更廣泛的背景下。這種更大的訓練分類的視野使他們能夠察覺到迄今為止在訓練機器學習模型的教科書方式中的一個初始錯誤和缺陷。透過更正這個錯誤，我們改進了機器學習系統的韌性。" 這項研究的成果為提高 AI 系統的安全性和可靠性提供了一個重要的突破。隨著人工智慧在各個領域的應用越來越廣泛，對於如何防範潛在的對抗攻擊的問題，我們應該更加關注。未來，需要持續投入更多的研究和資源來改進 AI 系統的韌性，以確保它們能夠安全地應用於現實世界的各個場景。ArtificialIntelligence,Robustness,System,Security,Reliability-人工智慧,韌性,安全,可靠,系統
延伸閱讀
- Quora CEO Adam D’Angelo 分享人工智慧和聊天機器人平臺 Poe，並解釋為何 OpenAI 並非競爭對手
- 在 AI 領域的女性：Tara Chklovski 正在教導下一代的 AI 創新者
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- 蘋果 AI 計劃揭祕：從財報中學到的三件事
- 特斯拉 CEO 為人工智慧新創公司籌集 60 億美元，TikTok 是否在逃避蘋果的傭金？
- Allozymes 以加速酶學應用於資料和人工智慧，籌集 1500 萬美元
- 在 TC 的 Techstars 調查內部以及人工智慧如何加速殘障科技
- Microsoft 禁止美國警察局使用企業人工智慧工具
- 你的 AI 原生新創公司並非一般的 SaaS 公司
- Airbnb 釋出團體訂房功能，並整合人工智慧以提升客戶服務
