HiddenLayer 募集了 5000 萬美元，用於開發 AI 防禦網路安全工具
背景
HiddenLayer 是一家新成立的安全新創公司，專注於保護人工智慧(AI)系統免受對抗性攻擊。該公司宣布在一輪融資中獲得了 5000 萬美元的資金，由 M12 和 Moore Strategic Ventures 共同領投，Booz Allen Hamilton、IBM、Capital One 和 TenEleven 等公司參與投資。這筆新資金將用於支援 HiddenLayer 的市場推出工作，將員工人數從 50 人增加到年底的 90 人，並進一步投資研發工作。HiddenLayer 的平臺和功能
HiddenLayer 的平臺提供了保護 AI 模型免受對抗性攻擊、漏洞和惡意程式碼注入的工具。該平臺監控 AI 系統的輸入和輸出，在部署之前測試模型的完整性。該平臺還為 MITRE ATLAS 提供貢獻，這是一個由非盈利組織 MITRE Corporation 維護的對抗性 AI 戰術和技術知識庫。對 AI 安全的關注和需求
AI 安全問題日益受到關注，越來越多的公司和政府機構認識到保護 AI 系統的重要性。根據 HiddenLayer 委託 Forrester 進行的一項研究，大多數公司表示當前依靠手動流程來應對 AI 模型威脅，86%的公司對其組織的機器學習模型安全表示“極度擔憂或擔憂”。同時 Gartner 報告顯示，在去年的一年中，有五分之二的組織在 AI 隱私違規或安全事故中遭受了侵害，其中四分之一的攻擊是惡意的。HiddenLayer 的創新與競爭
關於 HiddenLayer 的創新性，專家對此表示質疑，但專家指出，該平臺將有助於更廣泛地提供有關對抗 AI 攻擊的知識。根據 Adversara 的一項研究，有關 AI 安全的論文數量激增，2019 年在科學出版網站 Arxiv.org 上發表了 1500 多篇論文，而 2016 年只有 56 篇。然而對於大規模對 AI 發起攻擊的具體例子，很難確保。儘管如此一些政府機構對 AI 系統受到攻擊的可能性發出了警告。HiddenLayer 的市場和機會
HiddenLayer 的平臺已經取得了一些成果，與 Databricks 和 Intel 建立了合作夥伴關係，並在金融、政府和國防(包括美國空軍和太空軍)以及網路安全等行業中擁有一些財富 100 強的客戶。AI 市場的迅猛發展使許多組織難以制定正確的流程、人員和控制措施來抵禦機器學習所帶來的風險和攻擊。Sestito 表示 HiddenLayer 正在快速擴大規模，以滿足來自全球各行業的市場需求。評論和建議
HiddenLayer 的成功融資表明市場對於保護 AI 系統免受對抗性攻擊的需求日益迫切。然而 AI 安全仍然是一個新興領域，充滿挑戰和不確保性。 對於 HiddenLayer 和其他類似公司來說當前的問題之一是如何證實其技術的獨特性和效能。隨著市場競爭的加劇，公司需努力展示自己在 AI 驅動的檢測和響應方法方面的優勢。 此外政府和行業標準的制定也對 AI 安全至關重要。對 AI 系統進行事前測試、風險識別和監測，以證實其安全和有效性，是保證 AI 技術在實際應用中得到充分保護的必要條件。 在建議方面，組織應重視 AI 安全的重要性，確保在引入 AI 系統時，同時建立相應的防禦機制。同時政府和企業之間應加固合作，共同制定 AI 安全的最佳實踐和標準，以保護 AI 技術不受駭客攻擊。 最後要維護 AI 的可信度和安全性，也需要教育和培養 AI 專業人才。培養熟練的專家和研究人員，利用科學方法和創新技術來應對 AI 安全挑戰，將對保護我們的數位世界產生積極的影響。Cybersecurity-AI,防禦,網路安全,工具,HiddenLayer,募集,5,000 萬美元
延伸閱讀
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- Mozilla 發現大多數約會應用並不善於保護使用者資料
- 這款相機以 AI 詩詞交換照片
- Webflow 併購 Intellimize，加入 AI 動力頁面個性化
- 英國正在評估 AI 是否能幫助保護年輕的網路使用者
- Ramp 再次募集了 1.5 億美元，由 Khosla 和 Founders Fund 共同領投，估值高達 76.5 億美元
- 帕羅奧圖網路防火牆漏洞遭攻擊，數千家公司面臨新的災害
- BigPanda 釋出針對 IT 運維的生成式人工智慧工具
