使用大腦作為模型激發出更強大的人工智慧
引言
人工智慧（AI）已經成為一種相對常見的事物；很可能你有一部帶有 AI 助理的智慧手機，或者你使用運用 AI 技術的搜尋引擎。儘管 AI 是一個涵蓋多種不同方式的廣泛概念，用於處理資訊並有時做出決策，但 AI 系統通常是基於人工神經網路（ANN）的構建，這種網路類似於大腦的神經元。就像大腦一樣，人工神經網路有時也會感到困惑，無論是出於意外還是受到第三方人為行為的影響。你可以把它想象成光學幻象——它可能會讓你感知你看到的是一種東西，但實際上你看到的可能是另一種東西。然而令人工神經網路感到困惑的事物和令我們困惑的事物之間的區別在於，某些視覺輸入在我們看來可能是完全常規的，或者至少在我們看來是可以理解的，但它們可能被人工神經網路解讀為完全不同的東西。一個微不足道的例子可能是影象分類系統將一只貓誤認為狗，但更嚴重的例子可能是無人駕駛汽車將停車訊號誤認為讓行訊號。除了已經引起爭議的無人駕駛汽車之外，還有醫學診斷系統等許多敏感應用程式，這些應用程式接收並提供輸入並做出甚至可能影響人們的決策。
脆弱的人工神經網路
由於輸入不一定是視覺的，因此不輕鬆一瞥就能分析為什麼系統可能會出錯。試圖干擾基於人工神經網路的系統的攻擊者可以利用這一點，微妙地改變預期的輸入模式，從而被誤解，系統行為出錯，甚至可能引發問題。雖然有一些對抗這些攻擊的技術，但它們存在一些約束。東京大學醫學院生理學系的最新畢業生 Jumpei Ukita 和教授 Kenichi Ohki 提出並測試了一種改進 ANN 防禦的新方法。
灌入隨機噪聲增強適應性
Ukita 和 Ohki 不僅是電腦科學家，他們還研究過人類大腦，這啟發他們在 ANN 中使用大腦中已知的現象。他們提出在輸入層和深層網路層中都新增噪聲的方法。通常情況下，這是被避免的，因為人們擔心這可能會影響網路在常規條件下的效能。不過這對於他們測試的 ANN 來說並非如此，相反這種噪聲促進了更大的適應性，減少了對模擬對抗性攻擊的敏感性。
持續改進以保護使用的系統
儘管這個新的想法確實證實了其強大的防禦能力，但研究團隊希望進一步開發它，使其對預期的攻擊以及他們尚未測試過的其他攻擊更加有效。當前這種防禦僅對特定型別的攻擊有效。
"未來的攻擊者可能會試圖考慮能夠逃避我們在這項研究中考慮的特徵空間噪聲的攻擊。事實上攻擊和防禦是同一個硬幣的兩面；這是一場雙方都不會退卻的軍備競賽，所以我們需要不斷變革、改進和創新新的想法，以保護我們每天使用的系統。"Ukita 說。
社論與建議
這項研究的結果引起了關於人工智慧安全性的思考。隨著人工智慧在我們日常生活中的應用越來越廣泛，我們必須注意到這種技術本身存在一些潛在的風險。攻擊者可以利用人工神經網路的弱點，導致系統出錯並可能產生嚴重後果。
從哲學和倫理的角度來看，這引發了一些重要的問題。首先我們需要考慮人工智慧是否有能力真正理解和解讀真實世界的事件和情境。無論我們如何教導和訓練這些系統，它們是否真的能夠具備人類的理解能力和判斷能力？此外我們必須將責任概念引入人工智慧的領域。如果一個自動駕駛汽車因為人工智慧系統的錯誤而發生事故，誰將負責？這些問題需要我們深思熟慮並制定相應的政策和法律來保護公眾的利益。
對於開發人工智慧的科學家和工程師來說這項研究提供了一個重要的啟示。我們需要更多的關注人工神經網路的安全性，以確保它們在面對潛在攻擊時具有足夠的韌性和強大性。這意味著我們需要不斷創新和改進防禦技術，以應對不斷演變的威脅。此外我們需要更多的國際合作，共同努力保護人工智慧系統的安全，並確保它們不被用於惡意目的。
對於普通使用者來說這項研究提醒我們要保持警覺。我們應該理解人工智慧的局限性，並避免將過多的依賴和信任放在它身上。我們應該對使用人工智慧技術的產品和服務採取一種理性和審慎的態度，並優先考慮安全性和隱私保護。同時政府和監管機構也應該加固對人工智慧領域的監管，確保相關技術的合法使用和適當規範。
總而言之，這項研究提供了對人工智慧安全性的重要見解，並引發了許多哲學和倫理上的問題。我們需要共同努力，確保人工智慧系統的安全，並確保它們帶來的好處遠遠超過其潛在的風險。
延伸閱讀
- 元 AI 測試：未能彰顯自身價值，但免費就是免費
- Google 推出新功能“口語練習”，利用人工智慧幫助使用者提高英文能力
- 科技巨頭 xAI 競爭開放人工智慧，吸金 60 億美元。推動社交網路 X 成為股東
- Xaira：AI 藥物發現新創公司以 10 億美元巨額啟動，宣稱已準備好開展藥物開發
- Rabbit 宣布推出一個迷人的小型 AI 裝置：R1
- Perplexity AI 可能價值高達 30 億美元，原因在於…
- 基於人工智慧時代，Anon 正在打造自動化認證層 - 技術新聞
- Snowflake 推出自家旗艦生成式人工智慧模型
- Parloa 完成 6600 萬美元融資，打造客服對話人工智慧平臺
- Perplexity 籌集超過 2.5 億美元，估值達 25-30 億美元，用於其人工智慧搜尋平臺
