人工智慧與軍事科技中的網路安全
近期，專注於軍事科技的新創公司 Shift5 的 CEO 暨聯合創辦人 Josh Lospinoso 告訴參議院武裝部隊小組委員會，人工智慧在保護軍事行動方面發揮著重要作用。Shift5 與美國軍方、鐵路運營商和包括 JetBlue 在內的航空公司合作。Lospinoso 日前還告訴美聯社，武器系統中的軟體漏洞對美國軍方構成了嚴重威脅。該公司 CEO 與節目主持人討論了關鍵問題。以下內容經過編輯概括，以保證清晰和簡潔。
敵對勢力透過資料污染威脅 AI 技術安全
在證言中，Lospinoso 表示 AI 技術存在兩大主要威脅：
- 偷竊：這是不言而喻的。如果對方可以竊取 AI 技術，他們可以從中受益，也可能對你帶來災難性的後果。
- 資料污染：資料污染的一個方面是數位失實，即透過假帳號、虛假網站等方式使 AI 技術認識到錯誤的事實。Lospinoso 表示如果敵方能夠創造 AI 技術所看到的資料，他們就可以深刻影響該技術的執行。
已有案例，但尚不普遍
Lospinoso 說，當前未有廣泛出現的資料污染案例，但是確實已經發生過。最有名的案例之一是在 2016 年發生的。微軟發布了一個名為 Tay 的 Twitter 聊天機器人，它從與之進行的線上對話中學習。但壞人們卻打算透過推特向該聊天機器人傳送虐待和冒犯性言論。Tay 開始產生激進的內容，最終微軟把它下線。
人工智慧與網路安全息息相關
人工智慧不僅僅是聊天機器人。它長期以來都是網路安全的重要組成部分。例如，在電子郵件濾鏡中使用 AI 技術來標記和隔離垃圾郵件和釣魚誘騙。另一個例子是端點，例如膝上型電腦上的防病毒程式或執行在網路上的惡意軟體檢測軟體。當然攻擊者也使用人工智慧來試圖擊敗這些分類系統。這稱為敵對人工智慧。
駕駛軍事軟體的漏洞威脅
2018 年，美國國家政府責任辦公室(Government Accountability Office)發布的一份報告指出，幾乎所有新型武器系統都存在核心漏洞。此外美國國防部正在考慮將 AI 技術整合到這些系統中去。
Lospinoso 認為，這裡有兩個問題。首先我們需要充分保護現有的武器系統。這是我們建立的技術債務，它需要很長時間才能償還。然後才是保障 AI 算法的新範圍。Lospinoso 認爲，GAO 報告沒有真正討論 AI。所以暫時擱置 AI 來看待這些系統，仍會造成巨大的漏洞。我們將 AI 升級安裝到空中飛行器、地面車輛、太空資產和潛水艇等硬體上。然而實現升級需要花費巨大的代價，而且這些系統往往是老舊的，需要透過數位技術來改進。
我們正在相互交換資料。系統具有多孔性，很難升級並可能遭受攻擊。入侵者一旦獲取存取許可權，就意味着遊戲結束。有時重新設計現有系統的數位組成部分比建立新平臺更容易。但 AI 可以在保護這些系統方面發揮作用，如果有人嘗試危害它們，AI 可以用來進行防御。
AI 研究程式中何去何從？
有些人要求暫停 AI 研究，Lospinoso 認為這是一個糟糕的主意，因為這樣做會支援中國和其他競爭對手。但是他對 AI 產品進展過快也存在擔憂。他指出，“匆忙上市”通常風險更大（如遭到駭客攻擊、失效、造成不應有的危害），我們還應謹慎建立安全性。
Lospinoso 認為，AI 技術進展的步伐實在太快，我們可能沒有足夠的暫停來以安全負責和負責的方式發展技術。好訊息是，白宮和國會正在討論這些問題。他指出，所有科技公司包括在國防領域的公司都在趕著宣布半成品 AI 產品。商業模式需要根本變化，領域中的經濟逆轉正在發生或即將發生，商業領袖們正在努力不被當作主人公。
當前的 AI 還不具備軍事決策能力
最後關於使用 AI 對軍事決策（例如針對目標的定位）的問題，Lospinoso 對這種做法表現了明確態度：“我絕對不認爲人工智慧算法——我們收集到的資料——已經準備好爲致命的武器系統做出決策，這處於一個非常遙遠的距離。”
結論
Shift5 公司 CEO Josh Lospinoso 在上述訪談中強調 AI 技術在軍事科技和網路安全上充滿挑戰。特別是，針對東部敵手可能採取的資料污染攻擊要保持警惕。然而 AI 技術有潛力幫助保護在美國政府手中的軍事科技，並成為未來軍事技術的主要組成部分，但尚需要謹慎處理。需要把握好 AI 技術在可信和負責任的範圍內。
延伸閱讀
- 科技巨頭 xAI 競爭開放人工智慧，吸金 60 億美元。推動社交網路 X 成為股東
- Xaira：AI 藥物發現新創公司以 10 億美元巨額啟動，宣稱已準備好開展藥物開發
- Rabbit 宣布推出一個迷人的小型 AI 裝置：R1
- Perplexity AI 可能價值高達 30 億美元，原因在於…
- 基於人工智慧時代，Anon 正在打造自動化認證層 - 技術新聞
- Snowflake 推出自家旗艦生成式人工智慧模型
- Parloa 完成 6600 萬美元融資，打造客服對話人工智慧平臺
- Perplexity 籌集超過 2.5 億美元，估值達 25-30 億美元，用於其人工智慧搜尋平臺
- 前 Snap 研究人員正在利用人工智慧打造下一代 Bitmoji - 輕鬆創作個人化貼圖
- Mozilla 發現大多數約會應用並不善於保護使用者資料
