人工智慧打擊人工智慧——Jericho Security 的新途徑
簡介
網路釣魚攻擊已經日益複雜，並由人工智慧系統生成，使得網路安全公司 Jericho Security 籌集了 300 萬美元的預種子融資，以應對這一挑戰。Jericho Security 的策略是使用人工智慧的機器學習能力，實質上使用「以 AI 對抗 AI」的方式。他們採用 A1 紅隊對抗 AI 藍隊的方式進行模擬，以揭示漏洞和找到更堅固的防禦方法。
挑戰
網路安全領域一直存在著對抗電腦異常智慧的挑戰。當 AI 系統具有保持學習能力並進行無限次攻擊時，對於這樣的攻擊方式，沒有傳統的防禦方法能夠有效對抗。這種情況形成了一種貓捉老鼠的局面，其中安全團隊不斷提升其防禦能力，而惡意攻擊者則毫不停歇地改進其攻擊技巧。
Jericho Security 的解決方案
Jericho Security 的創辦人 Sage Wohns 表示他的願景是建立一個 AI 紅隊和 AI 藍隊，它們可以相互學習並改進其表現。AI 紅隊負責產生逼真且個性化的網路釣魚攻擊，以測試客戶和員工的安全防禦能力。而 AI 藍隊則負責使用先進的語言處理、自定義私有主機語言模型和代理資料來檢測和防止這些攻擊。
這種對抗方式象徵著網路安全領域的一個重大轉變，預示著未來的網路戰爭將由 AI 模型之間的競技進行定義，並不斷進化和學習。而 Wohns 強調了專注於現有威脅而不是未來假設的重要性。他表示：“我們要專注於已知的現有威脅，而不是被理論未來的網路攻擊所分散注意力。”
威脅的持續性
Wohns 認為，由於生成式人工智慧的出現，現有的網路安全解決方案已經變得過時。他以知名的安全意識培訓和模擬網路釣魚攻擊提供商 KnowBe4 為例，指出該公司面臨著技術過時的問題。他說：“他們是一家非常出色的公司。但由於生成式人工智慧的出現，他們正面臨著技術過時的問題。他們已經成立了 10 年，已經經歷過三次出售。這是一個了不起的企業，因為人們需要解決方案，他們必須購買。”
Wohns 還分享了一些他所見或聽說過的生成式網路釣魚攻擊的例子，比如來自 Costco 或 Best Buy 的假發票、來自泄漏資料源的假銀行帳戶更新以及針對初創企業的假風險投資建議。他補充道：“這就是為什麼我們從教育做起，這也是為什麼我們的價格非常低（每個使用者每月 3 美元）。因為我希望將這個產品推向全世界，讓人們意識到這些威脅。”
創辦團隊
Jericho Security 是創辦人多年觀察網路安全威脅演進的結晶。Wohns 是一位經驗豐富的人工智慧技術專家，曾任自然語言處理公司 Agolo 的 CEO。Tim Hwang 是 FiscalNote 政府關係管理平臺的聯合創始人兼 CEO。Dan Chyan 則是網路安全專家，同時是網路安全諮詢公司 PKC Security 的創始合夥人。預種子融資將用於擴大 Jericho Security 的產品提供、擴大團隊並實現全球化運營。
延伸閱讀
- 參議院研究建議：每年至少撥款 320 億美元用於人工智慧計劃
- Google I/O 盛會 AI 領域的重大訊息
- Google 掃描通話的人工智慧或增加預設審查，隱私專家發出警告
- 柏林科技企業 trawa 籌得 1 千萬歐元，運用人工智慧協助中小企業更輕鬆購買可再生能源
- Google I/O 2024：AI 與 Android 大揭祕
- Google 將在 YouTube 學術影片中推出人工智慧生成的測驗
- Google 在 I/O 主題演講中提到「AI」超過 120 次
- Google 將實現千禧星座技術於 Google 地圖平臺
- 在人工智慧電影節上，人性戰勝科技
- AI 推動社會變革，女性呈現關鍵力量
