人工智慧打擊人工智慧——Jericho Security 的新途徑
簡介
網路釣魚攻擊已經日益複雜，並由人工智慧系統生成，使得網路安全公司 Jericho Security 籌集了 300 萬美元的預種子融資，以應對這一挑戰。Jericho Security 的策略是使用人工智慧的機器學習能力，實質上使用「以 AI 對抗 AI」的方式。他們採用 A1 紅隊對抗 AI 藍隊的方式進行模擬，以揭示漏洞和找到更堅固的防禦方法。
挑戰
網路安全領域一直存在著對抗電腦異常智慧的挑戰。當 AI 系統具有保持學習能力並進行無限次攻擊時，對於這樣的攻擊方式，沒有傳統的防禦方法能夠有效對抗。這種情況形成了一種貓捉老鼠的局面，其中安全團隊不斷提升其防禦能力，而惡意攻擊者則毫不停歇地改進其攻擊技巧。
Jericho Security 的解決方案
Jericho Security 的創辦人 Sage Wohns 表示他的願景是建立一個 AI 紅隊和 AI 藍隊，它們可以相互學習並改進其表現。AI 紅隊負責產生逼真且個性化的網路釣魚攻擊，以測試客戶和員工的安全防禦能力。而 AI 藍隊則負責使用先進的語言處理、自定義私有主機語言模型和代理資料來檢測和防止這些攻擊。
這種對抗方式象徵著網路安全領域的一個重大轉變，預示著未來的網路戰爭將由 AI 模型之間的競技進行定義，並不斷進化和學習。而 Wohns 強調了專注於現有威脅而不是未來假設的重要性。他表示：“我們要專注於已知的現有威脅，而不是被理論未來的網路攻擊所分散注意力。”
威脅的持續性
Wohns 認為，由於生成式人工智慧的出現，現有的網路安全解決方案已經變得過時。他以知名的安全意識培訓和模擬網路釣魚攻擊提供商 KnowBe4 為例，指出該公司面臨著技術過時的問題。他說：“他們是一家非常出色的公司。但由於生成式人工智慧的出現，他們正面臨著技術過時的問題。他們已經成立了 10 年，已經經歷過三次出售。這是一個了不起的企業，因為人們需要解決方案，他們必須購買。”
Wohns 還分享了一些他所見或聽說過的生成式網路釣魚攻擊的例子，比如來自 Costco 或 Best Buy 的假發票、來自泄漏資料源的假銀行帳戶更新以及針對新創企業的假風險投資建議。他補充道：“這就是為什麼我們從教育做起，這也是為什麼我們的價格非常低（每個使用者每月 3 美元）。因為我希望將這個產品推向全世界，讓人們意識到這些威脅。”
創辦團隊
Jericho Security 是創辦人多年觀察網路安全威脅演進的結晶。Wohns 是一位經驗豐富的人工智慧技術專家，曾任自然語言處理公司 Agolo 的 CEO。Tim Hwang 是 FiscalNote 政府關係管理平臺的聯合創始人兼 CEO。Dan Chyan 則是網路安全專家，同時是網路安全諮詢公司 PKC Security 的創始合夥人。預種子融資將用於擴大 Jericho Security 的產品提供、擴大團隊並實現全球化運營。
延伸閱讀
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 亞馬遜成立新型代理 AI 團隊，將如何改變科技未來？
- 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
- 「搶先報名！TechCrunch Sessions: AI 演講者申請截止日期迫在眉睫！」
- MWC 最新報導：AI 影響力的兩極化觀點首次曝光！
- 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
- 美國停止對俄羅斯的進攻性網路行動，背後原因是什麼？
- 英國深入調查 TikTok、Reddit 和 Imgur 如何保障兒童隱私！
