HiddenLayer 籌集 5000 萬美元加固企業 AI 模型的安全防禦
HiddenLayer 是一家總部位於德克薩斯州奧斯汀的資安新創公司，由創辦人之前公司的機器學習程式碼遭受攻擊的事件驅使而成立。該公司今日宣布完成 5000 萬美元的 A 輪融資，以進一步加固企業採用的快速增長中的 AI 模型的防禦能力。此次融資由微軟的風險投資基金 M12 和摩爾戰略投資領投，並得到了 Booz Allen Ventures、IBM Ventures、Capital One Ventures 和 Ten Eleven Ventures 參投。
HiddenLayer 的產品和服務
HiddenLayer 的「MLSec」平臺是一個用於保護企業機器學習（ML）和人工智慧模型的工具組合。這些工具不會實際存取模型，也不會危害客戶的專有資料和技術。它們透過實時監控企業的 ML/AI 模型和相關應用的效能和運營情況，掃描全域性性的漏洞，並提供加固建議，同時檢測惡意程式碼/惡意軟體的注入，部署防御機制以切斷攻擊者的進攻並隔離任何入侵行為。
HiddenLayer 的 MLSec 平臺配備了一個簡單但功能強大的儀表板，讓安全經理能夠一覽企業 ML/AI 模型的安全狀態所需的所有訊息。根據問題的嚴重程度，它還會自動按優先線序列出安全問題和警報，並儲存資料以符合可能要求進行的合規性、審計和報告工作。此外 HiddenLayer 還提供來自其對抗式機器學習專家團隊的諮詢服務，他們緊跟安全的最新趨勢和最新威脅。他們可以進行威脅評估、為客戶的資安和開發運維人員提供培訓，並進行“紅隊”演習，以確保客戶的防禦措施常規執行。
與 Databricks 的合作夥伴關係
今年早些時候，HiddenLayer 與熱門企業資料湖解決方案提供商 Databricks 建立了合作關係，使 Databricks 的企業客戶可以直接在其執行於 Databricks 資料湖上的模型上使用 HiddenLayer 的 MLSec 平臺。HiddenLayer 在當時的一篇部落格文章中解釋道：“這種整合與模型無關，包括模型掃描、模型檢測和響應。這使得資料科學家和機器學習工程師能夠在不需要更改環境的情況下為其模型新增安全性。當模型被載入時，它將被 HiddenLayer 的模型掃描器掃描，以確保模型的完整性和安全性。如果檢測到攻擊，該整合將根據需要自動處理響應，無需人工幹預。”
HiddenLayer 對保護企業 AI 的未來展望
HiddenLayer 是在聚合公司 Cylance 的 ML 模型遭到攻擊後由 CEO Chris Sestito、首席科學家 Tanner Burns 和首席訊息官 Jim Ballard 共同創立的。HiddenLayer 的網站上記述了當時的事件：“攻擊者透過推論攻擊利用了 Cylance 的 Windows 可執行 ML 模型，揭示了其弱點，並使它們能夠生成能夠成功逃避檢測並感染每個 Cylance 客戶的二進位制檔案。”雖然當時令人擔憂和壓力重重，但三人意識到隨著更多企業尋求採用生成 AI 以提高效率和效能，對 ML/AI 的攻擊只會日益增多。如今 HiddenLayer 正在快速增長，過去一年已將員工人數增加了四倍。現在擁有 A 輪資金，該公司計劃在今年年底前再招聘 40 名人員，並繼續擴大其客戶群體。
延伸閱讀
- Seraphim 最新太空加速器迎來九家企業
- 威卡籌集了 1.4 億美元，AI 熱潮推動資料平臺
- Google 推出新一代 AI 模型 LearnLM，助力教育業界革新
- Misral AI 正在籌集 60 億美元，SoftBank 表示「不參與」但 DST 參與 dtype:affirmed + Sources: Mistral AI raising at a $6B valuation, SoftBank ‘not in’ but DST is
- Atlan 籌集了 1.05 億美元，其資料控制平面的重要性得到提升
- 女性在 AI 領域的傑出貢獻：Catherine Breslin 協助企業制定 AI 策略
- 替代雲技術蓬勃發展，企業尋求更便宜的 GPU 存取
- 微軟禁止美國警方使用企業 AI 工具進行臉部辨識
- Microsoft 禁止美國警察局使用企業人工智慧工具
- Tiger Global 支援的 Innovaccer 談判籌集 2.5 億美元新資金
