Protect AI 籌集到 3500 萬美元，致力於強化 AI 和機器學習安全
背景
Protect AI 是一家專注於 AI 和機器學習安全的公司，宣布成功籌集到 3500 萬美元的 A 輪融資。這輪融資由 Evolution Equity Partners 領投，並得到 Salesforce Ventures 以及現有投資者 Acrew Capital、boldstart ventures、Knollwood Capital 和 Pelion Ventures 的參與。Protect AI 由 Ian Swanson 創立，他之前曾領導亞馬遜網路服務(AWS)的全球 AI 和機器學習業務。公司的目標是加固機器學習系統和 AI 應用的安全性，防範安全漏洞、資料泄露和新興威脅。挑戰
AI/ML 安全挑戰對於企業來說變得越來越複雜，企業為了維護 ML 系統中的資產和元素，必須保持全面的清單。供應鏈資產的迅速增長，例如基礎模型和外部第三方訓練資料集，加大了這一困難。這些安全挑戰使組織面臨著遵守監管要求、個人身份訊息泄露、資料操縱和模型損壞的風險。Protect AI 的安全平臺
爲理解決這些問題，Protect AI 開發了一個名為 AI Radar 的安全平臺，為 AI 開發人員、機器學習工程師和 AppSec 專業人員提供了實時的可見性、檢測和管理功能，用於管理他們的 ML 環境。Protect AI 的 CEO 兼創始人 Ian Swanson 告訴 VentureBeat：“機器學習模型和 AI 應用通常是使用各種開源庫、基礎模型和第三方資料集構建的。AI Radar 以‘機器學習物料清單（MLBOM）’的形式建立了一個不可變的記錄，以追蹤在 ML 模型或 AI 應用中使用的所有這些元件。然後，它實現了連續安全檢查，以發現和修復漏洞。”AI Radar 的功能和優勢
Protect AI 聲稱，傳統的安全工具缺乏監控動態 ML 系統和資料工作流程的必要可見性，使組織無法及時檢測 ML 供應鏈中的威脅和漏洞。爲理解決這一問題，AI Radar 採用了連續整合的安全檢查，以保護 ML 環境免受主動資料洩露、模型漏洞和其他 AI 安全風險。該平臺使用整合的模型掃描工具，用於 LLM 和其他 ML 推斷工作負載，以檢測安全策略違規、模型漏洞和惡意程式碼注入攻擊。此外 AI Radar 還可以與第三方 AppSec 和 CI/CD 協同工具以及模型韌性框架進行整合。該公司表示該平臺的視覺化層提供了對 ML 系統攻擊面的實時洞察，並自動生成和更新一份安全的、動態的 MLBOM，以跟蹤 ML 系統中的所有元件和依賴關係。 Protect AI 強調這種方法保證了 AI/ML 供應鏈的全面可見性和可稽核性。該系統保持不可變的時間戳記記錄，記錄任何政策違規和更改。Protect AI 的未來計劃
Swanson 告訴 VentureBeat，Protect AI 計劃在三個關鍵領域增加研發投資，即增強 AI Radar 的功能，擴大研究範圍，以查詢和報告開源和供應商產品中 ML 供應鏈的其他關鍵漏洞以及進一步投資該公司的開源專案 NB Defense 和 Rebuff AI。他指出，成功部署 AI 可以透過創新、改善客戶體驗和提高效率迅速提升公司價值。因此保護 AI 與其產生的價值相稱對於保護 AI 變得至關重要。Swanson 表示：“我們的目標是向該行業普及典型應用安全和 ML 系統安全之間的區別。同時我們提供易於部署的解決方案，以確保整個 ML 開發生命周期的安全。我們的重點在於提供實用的安全解決方案，並引入業界首個 MLBOM，以識別並解決 ML 供應鏈中的風險。”結論
Protect AI 籌集到 3500 萬美元的融資，這將使它能夠進一步發展其 AI 和機器學習安全平臺 AI Radar。該平臺的功能包括實時可見性、檢測和管理，能夠解決企業在維護 ML 系統和 AI 應用的全面清單方面面臨的安全挑戰。Protect AI 的目標是加固機器學習系統和 AI 應用的安全性，防範安全漏洞、資料泄露和新興威脅。這種安全平臺的發展符合當前對於 AI 和機器學習安全的迫切需求，企業應該關注並投資相應的解決方案來保護其 AI 和機器學習系統。ArtificialIntelligence-資安公司,ProtectAI,籌集,3500 萬美元,人工智慧,機器學習,安全平臺
延伸閱讀
- 本週人工智慧大事記：OpenAI 轉向非安全應用
- AI 蓬勃發展，馬斯克對抗機械革命
- OpenAI 成立團隊控制「超智慧」AI，卻任憑其枯萎——訊息來源指出
- 開放 AI 與 Reddit 資料簽署合約，訓練人工智慧
- 智慧錢包 Kudos 獲得 1000 萬美元投資，研發 AI 功能挑選最佳信用卡
- 索尼音樂警告科技公司避免未經授權使用其內容訓練人工智慧
- Strava 啟用人工智慧防篡改排行榜，推出「家庭」計畫、深色模式等
- 參議院研究建議：每年至少撥款 320 億美元用於人工智慧計劃
- Google I/O 盛會 AI 領域的重大訊息
- Google 掃描通話的人工智慧或增加預設審查，隱私專家發出警告
