生成式人工智慧在網路安全中的應用
引言
生成式人工智慧（Generative AI）作為一種強大的工具，不僅在多個領域體現了巨大的應用價值，也在網路安全領域引起了廣泛的關注。各大網路安全供應商都意識到生成式人工智慧的雙刃劍效應，並開始將其應用於產品開發和維護中。生成式人工智慧為網路安全帶來了新的關注，例如資料準確性、精準度和實時洞察力。然而同時也帶來了安全風險，因此供應商必須提供相應的解決方案來降低風險。
生成式人工智慧的應用
生成式人工智慧在網路安全中的應用廣泛而深入。例如，Airgap Networks、CrowdStrike、Microsoft Security Copilot 和 Zscaler 等供應商已經開發了相應的產品和服務。這些供應商利用生成式人工智慧的優勢，加快開發速度，提供更精準的產品。生成式人工智慧還可以幫助檢測異常、解析日誌、應對事件、模擬攻擊模式等，從而改變了傳統的網路安全方法。
Airgap Networks
Airgap Networks 是值得關注的初創企業之一，他們的 Zero Trust Firewall（ZTFW）平臺搭配 ThreatGPT，可以利用生成式人工智慧的優勢，為潛在客戶和使用者創造價值。ThreatGPT 使用圖解資料庫（graph databases）和 GPT-3 模型來分析自然語言查詢，識別安全威脅，圖解資料庫則提供有關終端流量關係的上下文智慧。
CrowdStrike
CrowdStrike 是一家在深度 AI 和機器學習（ML）方面擁有豐富經驗的公司，他們將 AI/ML 和生成式人工智慧應用於產品和服務的各個層面。CrowdStrike 的最新產品是 Charlotte AI，一個生成式人工智慧安全分析師。CrowdStrike 的 CEO George Kurtz 在近年的一次演講中提到，AI 是他們解決安全問題的核心部分。他們使用 AI 進行威脅狩獵，並將其應用於預防模型中。
Microsoft Security Copilot
Microsoft Security Copilot 是將生成式人工智慧引入微軟內部安全套件的一個代表性例子。該套件使用 OpenAI 的 GPT-4 生成式人工智慧和微軟的安全模型來檢測入侵、聯動威脅訊號和分析資料。這一產品的開發，體現了微軟對生成式人工智慧技術的重視。
Zscaler
Zscaler 是一家領先的雲安全公司，他們在 Zenith Live 2023 活動中公佈了三個生成式人工智慧專案：安全自動駕駛（Security AutoPilot）與 Breach Prediction、Zscaler Navigator 和 Multi-Modal DLP。此外他們還推出了四項新產品，包括 Zscaler Risk360、Zero Trust Branch Connectivity、Zscaler Identity Threat Detection and Response（ITDR）和 ZSLogin 等。Zscaler 利用定制的大型語言模型（LLMs）來預測入侵，確保策略的準確執行。
生成式人工智慧對網路安全的影響
生成式人工智慧對當前和未來的產品策略產生了重大影響，並提供了更高的精準度和效能。根據對多位網路安全領導者的訪談，我們可以歸納出五個生成式人工智慧對當前和未來產品策略的重要影響。
實時風險評估和量化
生成式人工智慧可以幫助企業高效實時地評估和量化風險，並提供精準的定價和預測回報。這使得企業能夠更好地管理風險，並為專案投資提供有力的支援。現今，許多領先的網路安全供應商將生成式人工智慧與他們的平臺和遙測資料相結合，以訓練模型並提供更好的風險管理方案。
創新擴充套件式檢測和響應（XDR）平臺
XDR 平臺利用 API 和開放式架構實時聚合和分析遙測資料。生成式人工智慧可以協助 XDR 平臺消除資料孤立和延遲，提供更準確和敏捷的威脅情報。領先的 XDR 供應商包括 CrowdStrike、Microsoft、Palo Alto Networks、Tehtris 和 Trend Micro。這些供應商將生成式人工智慧應用於威脅檢測、調查和響應，提升了檢測和響應的能力。
提升終端韌性、自癒能力和上下文智慧
生成式人工智慧可以提高終端的韌性和自癒能力，並提供更豐富的上下文智慧。終端資料一直是創新的重要源泉，生成式人工智慧的應用能夠推動更快速、更規模化的創新。領先的終端提供商包括 Absolute Software、Akamai、BlackBerry、CrowdStrike、Cisco、Ivanti、Malwarebytes、McAfee 和微軟 365。
改進基於人工智慧的自動補丁管理技術
通常情況下，系統入侵、關鍵系統遭到破壞或存取憑證被盜等事件都將引發補丁管理。基於人工智慧的補丁管理系統可以最佳化漏洞修復的優先線序，提升風險評估的準確性。現今的供應商正在加快生成式人工智慧技術的發展，以提升自動化程度和資料挖掘效能。
管理生成式人工智慧工具的使用
許多 CIO 和 CISO 將生成式人工智慧的管理視為重要的任務，需要相應的工具來監控模型和聊天機器人（chatbot）服務。供應商如 Airgap Networks、CrowdStrike、Cyberhaven、Microsoft Security Copilot、SentinelOne 和 Zscaler 已經推出了相應的工具。未來，將會出現更多供應商開發並完善私有模型，進一步提高模型結果的準確性和精準度。
生成式人工智慧對網路安全的雙刃劍效應
生成式人工智慧對網路安全帶來了雙刃劍效應。一方面，它提供了更多的洞察力和效能，提高了網路安全的準確性和效果。另一方面，攻擊者也開始探索如何利用生成式人工智慧同時對多個威脅進行攻擊。因此網路安全供應商需要在開發產品的同時提供降低風險的指導方針。同時我們需要關注生成式人工智慧在保護智慧財產權和公司機密方面可能產生的風險。
結論
生成式人工智慧在網路安全領域扮演著重要角色，它對當前和未來的產品策略產生了重大影響。供應商不僅利用生成式人工智慧提升效能，同時也必須提供降低風險的解決方案。然而我們同樣需要關注生成式人工智慧可能帶來的安全風險。綜上所述，生成式人工智慧在網路安全中的應用前景廣闊，但同時也需要謹慎對待。
延伸閱讀
- Ofcom 將推動在新的網路兒童安全守則中，加固年齡取證、篩選和其他 40 項檢查
- Brandywine Realty Trust 表示資料已在勒索軟體攻擊中被竊取
- 亞馬遜推出 Bedrock Studio：簡化生成式人工智慧應用開發
- LockBit 的幕後主謀被起訴：我們從中學到了什麼？
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- Dropbox、Figma CEO 支援 Lamini：新創公司打造企業專用生成式人工智慧平臺
- 美國聯合健康集團 CEO 表示：“也許三分之一的美國公民受到最近的駭客攻擊影響”
- 法國新創公司 FlexAI 以 3,000 萬美元退出隱藏狀態，輔助 AI 運算提升存取便利性
- 亞馬遜計劃託管企業定製的生成式人工智慧模型
- Mozilla 發現大多數約會應用並不善於保護使用者資料
