Cybersecurity-AI 防禦工具組 Protect AI 籌措 3500 萬美元以構建 AI 保護工具
【簡介】
美國新創公司 Protect AI 宣布，他們籌措了 3500 萬美元的 A 輪融資，由 Evolution Equity Partners 領投，Salesforce Ventures、Acrew Capital、boldstart ventures、Knollwood Capital 和 Pelion Ventures 等投資者也參與其中。這筆融資額是 Protect AI 種子融資的兩倍多，使公司累計融資額達 4850 萬美元。Protect AI 的聯合創辦人兼執行長伊恩·斯旺森表示這筆融資的收益將用於提升 Protect AI 平臺的能力、擴大研究工作以及推出新的開源專案。斯旺森還預計，Protect AI 的員工數將從 25 人增長到年底的 40 人。
【背景】
Protect AI 的聯合創辦人斯旺森在接受 TechCrunch 的電子郵件採訪時表示他們於 2022 年與德赫根皮謝合作創辦了 Protect AI。在加入 Protect AI 之前，斯旺森和德赫根皮謝曾在亞馬遜網路服務（AWS）和甲骨文（Oracle）有過工作經歷，並幫助推出了 AI 開發平臺 DataScience.com，該平臺後來被甲骨文以金額未公開的價格收購。斯旺森表示他們創辦 Protect AI 是基於他們在世界上一些最大的機器學習和人工智慧部署中參與的經驗。他們看到了人工智慧在提供價值的同時也存在著風險。Protect AI 的使命是幫助客戶建立一個更安全的基於人工智慧的世界。
【分析】
當前還沒有證據表明 AI 模型以及其應用正在大規模受到攻擊（也許 OpenAI 的 GPT-4 是個例外，它已成為出售被泄露 API 金鑰的盜版者的目標）。但斯旺森提出的觀點是，隨著 AI 在金融和醫療等敏感行業的廣泛應用，這種情況只是時間問題。無論這個預測是否成真，Protect 提供了一系列服務，旨在解決斯旺森描述的 AI 安全“弱點”。Protect AI 的旗艦工具 AI Radar 可以提供對構建 AI 模型所使用元件的可見性，包括用於訓練和測試的資料和程式碼，然後生成一份“機器學習物料清單”（MLBOM）。斯旺森說：“AI Radar 能夠檢查供應鏈，找到實際的威脅和風險，我們可以為客戶提供可見性和修復方案……它可以掃描企業內的每個機器學習模型的所有 MLBOM，找出哪些流執行緒使用了[有漏洞的軟體]。”
除了 AI Radar，Protect 還提供了一些工具來緩解特定型別的 AI 攻擊，例如提示注入攻擊。提示注入是指以文字提示作為指示的 AI 被惡意的注入指示欺騙，以執行原本不屬於其目標的任務。Protect 還可以掃描 Jupyter Notebook 中的檔案，Jupyter Notebook 是用於建立 AI 模型和執行資料科學實驗的流行平臺之一。研究機構已經發現，未正確保護的 Jupyter Notebook 檔案可能會變得容易受到基於 Python 的勒索軟體和加密貨幣挖掘攻擊的威脅。此外 Protect 還評估 Jupyter Notebook 中的程式碼，以尋找個人身份訊息（如姓名和電話號碼）、內部使用的認證令牌和憑證以及帶有“非允許”許可的開源程式碼，可能禁止其用於商業系統。
【評論】
Protect AI 的主要競爭對手包括正在開發保護算法免受自動攻擊的 Resistant AI 以及聲稱可以在不需要存取任何原始資料或供應商模型的情況下保護模型的 HiddenLayer。還有 Robust Intelligence、CalypsoAI 和 Troj.ai 等公司也可以被視為 Protect 的競爭對手。儘管如此 Protect 聲稱在金融服務、醫療保健、生命科學和能源等領域擁有高知名度的私營和公共部門客戶，這表明他們成功建立了自己的市場。斯旺森表示技術和 AI 領域的整體經濟放緩對 Protect 並沒有產生太大的影響，因為在 AI 的部署和價值提供方面，他們處在關鍵時刻。Protect AI 正努力回答“如何降低 AI 風險”的問題，這在當前普遍對 AI 的應用中仍然是一個重要的議題。
【建議】
隨著 AI 在金融和醫療等敏感行業的廣泛應用，保護 AI 系統安全的需求越來越迫切。Protect AI 的平臺提供了一系列工具，旨在解決 AI 系統中的安全威脅和風險。對於公司和組織來說針對 AI 模型和其相關元件進行安全檢測和掃描，以識別可能存在的漏洞和弱點是十分重要的。此外確保 AI 系統設定的合適許可權和保護措施，以防止未經授權的存取和資源濫用，也是保護 AI 安全的關鍵。企業還應該建立內部培訓計劃，教育員工如何識別和應對 AI 安全威脅，並制定適當的應急計劃和反應策略，以應對可能的攻擊事件。
延伸閱讀
- Allozymes 以加速酶學應用於資料和人工智慧，籌集 1500 萬美元
- Modal 籌集 2500 萬美元，為企業員工提供資料與人工智慧訓練
- 人工智慧與資料基礎設施推動開源新創公司需求
- Google 在法國被罰 2.7 億美元，當局發現新聞出版商的資料被用於 Gemini
- 未來 PERM 將迎來哪些改變？- 索菲問答
- 司法部調查特斯拉的電動車續航裏程，傳聞資料存在誇大的問題
- 曝光微軟資料顯示，Windows 11 已經搭載了 4 億臺裝置!
- 【AI 先驅 Yann LeCun 和 Yoshua Bengio 線上上激烈爭論 AI 安全和治理】
- 遊戲玩家揭露演算法資料中的差異
- 2023 年第三季個人電腦出貨下滑乾坤，蘋果大降超過 23%！
