AI and Emerging Technology: Protecting Organizations from Cyber Threats
Introduction
隨著新興科技的不斷發展，網路安全行業正以指數級速度成長，但隨之而來的也是新的攻擊手段。例如，根據 Acronis 最新的威脅報告，2023 年上半年的基於電子郵件的攻擊次數比 2022 年同期增加了 464%。儘管人工智慧（AI）並非完全負責這一攀升，但 ChatGPT 等模型的出現使得勒索軟體團夥更容易製作出更具說服力的釣魚電子郵件，使基於電子郵件的攻擊變得更加普遍且容易發動。本文將探討 AI 和其他新興技術的最新發展，並提供如何保護組織免受新威脅的建議。
潛在風險：人工智慧帶來的挑戰
隨著科技領域的快速發展和應用案例數量的指數級增長，2023 年似乎成為了人工智慧的年代。ChatGPT 和其他模型在全球新聞中佔據主要位置，普通使用者可以使用具有突破性的工具，這些工具可以模仿人類的語言、透過智慧模型的學習遍歷多年的人類生成文字。然而網路犯罪分子也將目光放在 ChatGPT 和其他類似工具上，用以進行攻擊。這些大型語言模型（LLMs）可以幫助駭客加速攻擊，輕鬆生成不斷變化的多語言釣魚電子郵件，付出很少或幾乎沒有努力。然而 AI 不僅用於模仿人類語言，還可以自動化網路攻擊。攻擊者可以利用這一技術自動化攻擊，分析自己的惡意程式，使之更具有效性。他們還可以使用這些程式監控和更改惡意軟體的簽名，從而避免檢測。攻擊者可以使用自動化指令碼建立和傳送釣魚電子郵件，檢查被盜資料是否包含使用者憑證。利用效率高的自動化和機器學習技術，攻擊者可以擴大其操作範圍，對更多目標進行攻擊，並生成更個性化的惡意程式，從而加大對這類攻擊的防禦難度。另一個較有趣的攻擊方法是攻擊者試圖對 AI 模型本身進行反向工程。這種對抗性的 AI 攻擊可以幫助攻擊者理解某些檢測模型的弱點或偏見，然後建立出無法被該模型檢測到的攻擊。最終 AI 被用來攻擊 AI 本身。
商業郵件劫持仍然是一個重大挑戰
不僅人工智慧在不斷進化，新的電子郵件安全控制也可以掃描釣魚網站的連結，但無法掃描 QR 碼。這導致罪犯大量使用 QR 碼來隱藏惡意連結。同樣，惡意電子郵件開始使用更多合法的雲應用程式，如 Google Docs，向使用者傳送虛假通知，這些通知通常不會被阻攔。在 Microsoft Office 開始增加對惡意宏命令的執行約束後，網路犯罪分子轉而使用連結檔案和 Microsoft OneNote 檔案。傳統的「城堡加護城河」模式在網路安全領域早已不再有效。許多公司已經開始從虛擬私有網路（VPN）轉向零信任存取，這要求所有存取要求在沒有例外的情況下動態授權。它們還監測行為模式以檢測異常和潛在威脅。這樣就可以實現對經過取證的使用者的從任何地方的存取，而不開放給攻擊者的大門。不幸的是，多數公司遭受入侵的原因是簡單的錯誤。但那些能在入侵中快速發現並對抗威脅的公司和其他公司之間的主要區別在於速度。例如，系統通知使用者他們的密碼上周被竊取是有幫助的，但如果系統在實時內告訴使用者並自動更改密碼，效果會更好。在建立適當的防禦機制時，簡單和靈活性至關重要。
建立簡單而有彈性的防禦策略
儘管網路攻擊給個人和企業帶來不斷增加的問題，但仍然有可能在這場戰爭中保持領先並擊敗網路犯罪分子。網路安全中的過度複雜是最大的問題之一：無論是大企業還是小企業都會在基礎設施中安裝過多的工具，這為潛在的網路攻擊點開闢了廣大的空間。最近的一項研究顯示 76%的公司在過去一年中至少出現了一次生產系統故障。其中只有 36%是由傳統網路攻擊引起的，而 42%是由人為錯誤導致的。此外 Microsoft 最近發現 80%的勒索軟體攻擊是由於配置錯誤引起的，如果組織使用更少的保護解決方案來進行配置和管理，這些攻擊本可以避免。透過減少涉及基礎設施的安全供應商的數量，組織還可以節省大量培訓時間，使其技術人員能夠掌握每個工具的最新版本。組織還可以節省資金，將資源釋放給業務的其他更有利可圖的領域。透過良好的整合，工具可以在各個方面高效執行。
意識每個應用程式和資料所涉及的範圍
近年來在對個別應用程式在系統上的操作進行行為分析的領域取得了有效的進展。這包括端點檢測和響應（EDR）和擴充套件檢測和響應（XDR）工具，這些工具有助於技術領導者獲得更多資料和對活動的可見性。對系統中每個應用程式、資料和網路存取的意識至關重要。然而我們的工具不能給管理員帶來成千上萬的警報，讓他們需要手動分析。這很容易導致警報疲勞，並可能導致錯過威脅。相反，管理員應該利用 AI 或 ML 自動關閉虛假警報，以釋放出安全工程師的時間，讓他們能夠專注於關鍵的警報。當然這些技術的應用不僅限於傳統安全資料。AIOps 和可觀察性領域提高了對整個基礎設施的可見性，並使用 AI 或 ML 預測下一個問題可能發生的位置，並在事態尚未嚴重之前進行自動對應。AI 的運用應視為一種工具，而非取代人類。
AI 和 ML：用作工具而非替代品
人工智慧（AI）或機器學習（ML）基於行為的解決方案尤其重要，因為僅依靠基於簽名的檢測無法保護我們免受每天發現的許多新惡意軟體樣本的侵害。此外如果技術領導者提供正確的訊息和資料集，AI 還可以增強網路安全系統，使其能夠更快、更準確地評估和檢測威脅。充分利用 AI 和 ML 是保持領先於攻擊者的關鍵，然而重要的是要記住，某些流程始終需要人類參與。AI 或 ML 應作為一種工具使用，而非取代。一旦調整完善，這樣的系統可以幫助節省大量的工作和努力，並最終節約資源。
結論：簡化防務並保持韌性
無論個人還是企業，保持對抗網路犯罪分子的先發制人態勢和領先優勢始終都是至關重要的。建立綜合防禦能力並保持韌性非常重要。組織應該為攻擊做好準備，盡早防止攻擊的發生。這包括迅速補丁軟體漏洞、使用多因素認證（MFA）並擁有軟體和硬體清單。此外組織應該測試其應急響應計劃，定期進行演練，以取證其是否能夠在遭受攻擊時恢復所有關鍵伺服器，並確保能夠從所有收件箱中刪除惡意電子郵件。在面對日益複雜的攻擊時，具備網路安全識見要求我們必須做好準備、保持警覺並進攻，而不僅僅是防禦。即使某些攻擊變得越來越複雜，但透過學會如何識別釣魚嘗試、保持獨特和安全的憑證，將會大大幫助我們抵禦網路威脅。簡而言之，實現網路韌性的關鍵在於加固整合，消除困擾各個大中小企業的不必要的過度複雜性。
