Perception Point 推出 AI 模型，抵禦具有生成型 AI 的企業 email 攻擊

標題：Perception Point 新款 AI 模型對抗生成型企業 email 攻擊

概述

Perception Point，一家網際網路安全平臺，近日公布了其最新創新，旨在對抗生成型 AI 所引發的 email 攻擊威脅。該公司的新型檢測技術採用了 AI 驅動的大型語言模型（LLMs）和深度學習架構，以識別並阻止生成型 AI 技術所促成的企業 email 詐騙（BEC）攻擊。這種技術已成為網路犯罪活動的新利器，尤其在社交工程和 BEC 攻擊中，能夠生成與人類輸出相似的高質量、個性化的電子郵件。根據 Verizon 最近的資料破壞調查報告，超過 50%的社交工程事件可以歸因於 BEC。Perception Point 的 2023 年度報告還顯示 BEC 攻擊嘗試數量激增了 83%。為了應對不斷升級的威脅，該公司開發了一種基於 LLMs 的創新檢測模型，該模型利用轉換器（transformers）等 AI 模型能夠理解文字的語境，類似於 OpenAI 的 ChatGPT 和 Google 的 Bard。

威脅和挑戰

Perception Point 表示傳統的安全解決方案通常無法透過上下文和行為分析實現所需的檢測準確性。該公司稱，儘管先進的電子郵件安全系統使用上下文和行為檢測，但仍很難識別生成型 AI 所帶來的最新增強型攻擊。這是因為這些攻擊規避了檢測方法最初設計用於識別的典型模式。此外該公司聲稱市場上當前可用的解決方案僅依賴於交付後的檢測。這意味著惡意電子郵件可以在使用者的收件箱中停留很長時間，直到被移除。Perception Point 的 CTO Tal Zamir 告訴 VentureBeat：“依賴簽名和聲譽分析的傳統電子郵件安全解決方案甚至無法阻止最簡單的無載荷 BEC 攻擊。”他還表示該解決方案的關鍵優勢在於能夠識別 LLM 生成文字中可辨識模式的重複。該模型使用獨特的三階段架構檢測 BEC 的檢測率最高，並將誤報數量降至最低。該模型透過將文字進行分類，使用轉換器和聚類算法等階段的見解，並結合其他訊息（如發件人聲譽和取證協議訊息），預測電子郵件是否由 AI 生成，並確保其是否構成潛在威脅。該解決方案還包括一種管理的事件回應服務，可以解放客戶的 SOC 團隊，使其免於迅速響應事件和實時部署新算法以對抗新興威脅的責任。

應用和發展

Perception Point 的 Zamir 表示新的攻擊方式包括利用虛假電子郵件冒充信任組織，並使用社交工程技術欺騙員工轉移大筆資金或揭示機密資料。Zamir 告訴 VentureBeat：“攻擊者利用現代企業中的員工作為安全的最軟弱環節，他們利用通常不含有 URL 或惡意檔案的 BEC 文字攻擊，這樣可以繞過傳統的電子郵件安全系統，進入使用者的收件箱。”他進一步說，生成型 AI，尤其是 LLMs 的出現，提高了模仿、釣魚和 BEC 攻擊的效力。這種進步讓網路犯罪分子能夠以比以往更快、更大規模的方式進行操作。Zamir 說：“曾經需要大量時間和努力才能完成的工作，例如目標研究、偵察、文案撰寫和設計，現在只需幾分鐘就能完成，利用精心設計的提示進一步加劇了威脅，擴大了潛在受害者的範圍，並顯著增加了成功攻擊的機會。”為了減少源自生成型 AI 的合法電子郵件的誤報，Perception Point 在其模型中使用了獨特的三階段架構。在初步評分過程之後，該模型使用轉換器和聚類算法對電子郵件內容進行分類。透過將這些步驟的見解與其他資料（如發件人聲譽和取證協議訊息）結合，模型可以預測電子郵件是否由 AI 生成，並確保其是否構成潛在威脅。“我們的模型透過我們專有的 HAP（硬體輔助平臺）檢測層動態掃描每封電子郵件，包括嵌入的 URL 和檔案。這是我們的專有下一代檢測沙箱，在 CPU 和記憶體級別動態掃描內容。”Zamir 說。

下一步的計劃

Zamir 表示他的公司的目標是開發能夠過濾大量資料、識別潛在威脅並提供可操作智慧的 AI 能力。他強調將生成型 AI 機器人整合到諸如 Slack 或 Teams 等協作應用程式、Edge 等瀏覽器以及 Google Drive 或 OneDrive 等雲儲存服務中，為潛在攻擊提供了新途徑。“Perception Point 認識到這些新興威脅，並正在開發能夠預防、檢測和應對不斷增加的威脅複雜性的 AI 安全解決方案，”Zamir 說。“我們將繼續確保我們的客戶能夠利用生成型 AI 的效力，而不會影響他們的安全狀態。”

關鍵詞：Cybersecurity-PerceptionPoint、AI 模型、企業 email 攻擊、抵禦、生成型 AI

延伸閱讀

• 「Inception 首度曝光！全新 AI 模型顛覆科技界！」
• 《Anthropic 利用寶可夢測試最新 AI 模型，成果驚人！》
• Google 悄然推出下一代旗艦 AI 模型，科技界即將震撼！
• AI2 推出新 AI 模型，成功超越 DeepSeek 最佳技術！
• xAI 新一代 AI 模型遲遲未發，背後隱藏的趨勢曝光！
• Google 執行長宣布：AI 模型 Gemini 將成為 2025 年最大焦點！
• 「DeepSeek 最新 AI 模型為何自認是 ChatGPT？揭祕背後的技術奧妙！」
• DeepSeek 推出新 AI 模型，成為最佳「開放挑戰者」！
• Pictionary 與 Minecraft：測試 AI 模型創意潛力的新戰場！
• AI 模型在西班牙語選舉問題上表現不佳，研究揭示了隱藏的語言障礙！