利用大腦作為模型激發更強大的人工智慧
2023 年 9 月 15 日
導言
人工智慧（AI）已經成為一個相對普遍的存在；你可能擁有一部帶有 AI 助手的智慧型手機，或是使用由 AI 驅動的搜尋引擎。儘管這是一個廣義的術語，可以包括許多不同的訊息處理和有時作出決策的方式，但 AI 系統通常使用類似於大腦的人工神經網路（ANN）構建。就像大腦一樣，人工神經網路有時會感到困惑，不論是出於意外還是受到第三方的蓄意行為。
然而混淆人工神經網路的東西和讓我們感到困惑的東西之間的區別在於，某些視覺輸入對我們來說可能看起來完全常規，或者至少可以理解，但可能被人工神經網路解讀為完全不同的東西。一個平凡的例子可能是影象分類系統將一只貓誤認為狗，但一個更嚴重的例子可能是無人駕駛汽車將一個停止訊號誤認為是讓行的標誌。而且這不僅僅是有關無人駕駛汽車這個已經引起爭議的例子；還有醫療診斷系統以及許多其他敏感應用，這些應用接受輸入並進行通知，甚至做出可能影響人們的決策。由於輸入不一定是視覺的，因此並不總是容易分析系統為何犯錯。
嘗試破壞基於人工神經網路的系統的攻擊者可以利用這一點，輕微地改變預期的輸入模式，使其被錯誤解讀，從而導致系統的錯誤行為，甚至有可能引發問題。當前有一些防禦技術可以抵禦此類攻擊，但它們存在著局限性。
研究背景
東京大學醫學部生理學系的畢業生宇喜多純平（Jumpei Ukita）和教授大木賢一（Kenichi Ohki）設計並測試了一種提高人工神經網路（ANN）防禦能力的新方法。
宇喜多表示：“神經網路通常包含一系列虛擬神經元層。通常，前面的幾個層將負責透過識別與特定輸入相聯動的元素來分析輸入。”他補充說：“攻擊者可能提供帶有造假痕跡的影象，以欺騙網路對其進行錯誤分類。對於這種攻擊，通常的防禦方法可能是有意在這個第一層引入一些噪音。這聽起來很不合乎直觀，因為這樣做似乎可能會降低視覺場景或其他輸入的適應性。然而這種方法並不總是那麼有效，所以我們認為，透過關注網路的更深層次，可以改進這一問題。”
宇喜多和大木不僅是電腦科學家，他們還研究過人類大腦，這啟發了他們在 ANN 中使用他們所理解到的現象的想法。他們不只將噪音新增到輸入層，還將其新增到更深的層中。通常會避免這樣做，因為擔心這樣做會影響網路在常規情況下的效果。然而這對偶然發現的測試 ANN 來說並不成立，相反這種噪音促進了它的適應能力，減少其對模擬敵對攻擊的敏感性。
研究方法
宇喜多表示：“我們首先對攻擊進行了設想，這種攻擊比對輸入層具有標準噪音防禦的網路更深入。我們把這些特徵空間敵對例子稱為 feature-space adversarial examples。”他解釋說：“這些攻擊透過提供與 ANN 能夠正確分類的輸入相比較遠而不是相近的輸入，來達到目的。但關鍵是要向更深的層次中呈現微妙的誤導性痕跡。一旦我們展示了這種攻擊的危險性，我們在網路的更深層注入了隨機噪音，以提高它們的適應能力和防禦能力。我們很高興地報告這是有效的。”
研究結果
雖然這個新方法確實證實了其韌性，但該團隊希望進一步發展，使其更加有效對抗預期的攻擊以及其他他們尚未進行測試的攻擊型別。當前這種防禦方法僅對這種特定型別的攻擊有效。
宇喜多指出：“未來的攻擊者可能會考慮可以逃避我們在這項研究中討論的特徵空間噪音的攻擊。的確，攻擊和防禦是同一枚硬幣的兩面；在這場軍備競賽中，雙方都不會退縮，因此我們需要不斷反覆、改進和創新新的想法，以保護我們每天使用的系統。”
結論
這項研究的成果發表在《神經網路》期刊上。研究團隊計劃進一步完善這個新方法，使其能夠更有效地對抗預期的攻擊以及其他尚未被測試的攻擊型別。他們強調攻擊和防禦是一個不斷演進的遊戲，我們需要不斷提升技術和創新，以保護我們日常使用的系統。
這項研究既具有理論意義，也具有實際應用價值。隨著 AI 的廣泛應用和普及，提高人工神經網路的防禦能力將有助於確保系統的安全性和可靠性。同時這項研究也提醒我們，AI 技術帶來的好處和挑戰需要平衡考量。我們需要不斷加固技術研發，同時加固監管和倫理規範，以確保 AI 的發展符合人類的利益和價值觀。
從長遠來看，人工智慧技術的運用必然會帶來更多的困難和挑戰，但我們在探索和應用這項技術的過程中，也應該意識到它所帶來的巨大潛力和機會。只有在不斷提升技術的同時我們才能更好地應對相關問題，為我們所追求的更美好的未來鋪平道路。
延伸閱讀
- 在 AI 領域的女性：Tara Chklovski 正在教導下一代的 AI 創新者
- 為什麼 RAG 無法解決生成式 AI 的幻覺問題
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- 蘋果 AI 計劃揭祕：從財報中學到的三件事
- 特斯拉 CEO 為人工智慧新創公司籌集 60 億美元，TikTok 是否在逃避蘋果的傭金？
- Allozymes 以加速酶學應用於資料和人工智慧，籌集 1500 萬美元
- 在 TC 的 Techstars 調查內部以及人工智慧如何加速殘障科技
- Microsoft 禁止美國警察局使用企業人工智慧工具
- 你的 AI 原生新創公司並非一般的 SaaS 公司
- Airbnb 釋出團體訂房功能，並整合人工智慧以提升客戶服務
