總覽
最近，隨著生成式人工智慧模型（如 ChatGPT）的問世，許多騙徒也推出了類似 FraudGPT 的模型，該模型在暗網上遊盪，承諾協助犯罪分子精心製作網路攻擊。企業正在採用基於生成式人工智慧的網路防禦，希望能夠超越攻擊者使用類似工具的能力。然而專家們警告說，這需要更多的努力，包括保護生成式人工智慧模型背後的資料和算法，以免這些模型本身成為網路攻擊的受害者。
IBM 調查
IBM 最近公布了一項調查結果，顯示 84%的企業高管表示他們將「優先考慮生成式人工智慧的安全解決方案，而不是傳統方案」用於網路安全目的。根據調查，到 2025 年，基於人工智慧的安全支出預計將比 2021 年增長 116%。這項調查是基於來自美國企業的 200 位執行長、首席安全官和其他高管的回答。
議會關注
許多高層議會成員已經對人工智慧對網路安全所帶來的危險表達了關切。在九月的參議院諮詢中，主席馬克·華納表示生成模型可以改善網路安全，幫助程式員識別程式設計錯誤，提高程式設計實踐的安全性，但這些模型同樣可以為惡意行為者提供幫助。
Darktrace 的應用
據 Darktrace 的高級副總裁馬庫斯·福勒表示該公司正在部署定制的生成式人工智慧模型進行網路防禦。它使用人工智慧來預測潛在的攻擊，並設計專有的自學習人工智慧模型，觀察和理解在企業或政府環境中部署的電腦網路的常規使用模式。該系統可以檢測出與常規模式不符的活動，為安全專家提供行動方案。
產業困境
Dakota State University 的校長約瑟·格裏菲斯表示生成式人工智慧在改善網路安全方面的應用正逐步增加，但安全專家們必須同樣關注保護生成式人工智慧模型本身，因為攻擊者可能會試圖破解模型和其底層資料。此外 John Dwyer 指出，生成式人工智慧模型在網路安全中的廣泛應用能夠解決安全專家所面臨的一些固有問題，例如警報過載、人才短缺和心理健康問題。使用人工智慧模型來卸下重複性任務可以減輕工作負荷，使安全分析師能夠專注於高價值任務。
結論
隨著生成式人工智慧在網路安全領域的應用不斷增加，網路攻擊者也在追趕這一趨勢。保護生成式人工智慧模型和其底層資料的安全至關重要，以防止攻擊者入侵。同時生成式人工智慧模型能夠為安全專家提供支援，減輕工作負荷，提高網路安全的效能。然而人工智慧在網路安全領域的應用仍然面臨著一些挑戰，包括對生成模型的保護和使用人工智慧分析惡意軟體的能力。
專家建議
為了應對生成式人工智慧在網路安全中的應用挑戰，專家們提出了以下建議：
- 加固生成式人工智慧模型和資料的安全保護，以防止攻擊者入侵。
- 繼續發展生成式人工智慧模型，在網路防禦方面提供更強大的功能。
- 加固對惡意軟體的分析能力，以確保攻擊者的來源。
- 減少安全專家的工作負荷，使用生成式人工智慧模型來卸下重複性任務，使其能夠專注於高價值任務。
隨著生成式人工智慧技術的不斷發展，網路安全領域將面臨著更多的挑戰和機遇。只有透過不斷改進生成式人工智慧模型的安全性和功能以及提高安全專家的工作效能，我們才能在網路安全的戰場上取得勝利。
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
- Rad AI 完成由 Khosla Ventures 領投的 5 千萬美元 B 輪融資
