保護 ML 模型的安全性與供應鏈安全的挑戰
開源庫的供應鏈攻擊潛在風險
隨著網路犯罪分子在利用開源庫中的軟體服務依賴關係方面變得越來越熟練，供應鏈攻擊的潛在風險也隨之增加。然而企業並沒有足夠快地採取適當的對策。美國科技基礎建設安全域性(CISA)創始主任克裏斯·克雷布斯在黑帽(BlackHat)大會上的主旨演講中也強調了這一點。克雷布斯警告觀眾們說：“那些運送軟體產品的公司成為了攻擊目標。”這一觀點與白宮最近宣布的國家網路安全策略相呼應，該策略強調提升網路韌性，並要求軟體公司對其產品的安全性負有責任。
安全犧牲速度 - 即使在新的 ML 模型開發中
DevOps 團隊面臨著在縮短程式碼交付時間的壓力下開發更多擁有 ML 模型的應用程式，以支援新型數位收益和客戶體驗。DevOps 領導者表示為了應對日益緊迫的程式碼交付期限，安全閘門審查常常被忽略。據《VentureBeat》報導，一個價值 6 億美元的企業中，典型的 DevOps 團隊同時進行著超過 250 個專案，其中超過 70％的專案專注於維護和改進數位化客戶體驗。由於幾乎每個 DevOps 團隊都有滯後進度的新數位轉型應用程式專案及其 ML 模型的待辦清單，所以安全測試應用程式與 DevOps 相互脫節，工程師在開發過程中也沒有接受安全性嵌入程式碼的培訓。使用開源程式碼可以節省時間，使開發保持在預算範圍內，但也引入了新的風險。商業程式碼中 97％包含開源程式碼，其中 81％至少存在一個漏洞。此外分析的程式碼庫中有 53％存在授權衝突問題，85％的程式碼庫至少四年沒有更新。
JFrog 在開發過程中保護 ML 模型安全的最新方案
JFrog 是一家為 DevOps 提供軟體供應鏈安全解決方案的領先公司。它在 2023 年的 swampUP 大會上推出了一系列新產品和增強功能。其中最值得注意的是在 ML 模型管理方面的創新，包括對模型進行合規性掃描、檢測惡意模型以及在軟體釋出過程中管理模型交付。JFrog 的聯合創始人兼 CTO Yoav Landman 表示：“如今資料科學家、機器學習工程師和 DevOps 團隊在交付軟體方面沒有共同的過程。這往往會造成團隊之間的衝突、擴充套件困難以及管理和合規性標準的缺乏。”他還說：“機器學習模型的成果缺乏 Python 等依賴的包，通常是使用 Docker 容器來提供服務。我們的客戶已經將 JFrog 作為管理成果和 DevSecOps 流程的黃金標準。資料科學家和軟體工程師是現代 AI 能力的創造者，他們已經成為 JFrog 的使用者。因此我們將此次釋出看作是我們的下一個合乎邏輯的步驟，因為我們將機器學習模型管理、模型安全和合規性納入到統一的軟體供應鏈平臺中，以幫助他們在 AI 時代以規模交付可信賴的軟體。”
JFrog 還推出了一個新的安全平臺，這個平臺可提供從程式碼到執行時的端到端保護，覆蓋了軟體開發生命週期(SDLC)的各個階段。新功能包括 SAST 掃描、JFrog Curation 中的開源軟體庫以及 ML 模型的安全性。其他新增功能還包括釋出生命周期管理，用於跟蹤軟體捆綁包以及增強的 DevOps 功能，例如不可變的釋出捆綁包。JFrog 的整體策略是在一個平臺上統一和精簡整個軟體開發生命週期。正如他們在日立電機公司(Hitachi Vantara)的成果表明的那樣，JFrog Artifactory 充當著“單一的真相之源”，用來管理組織中的軟體二進位制檔和成果，並與 JFrog Xray 提供一致的安全掃描。透過在多個站點之間複製關鍵資料庫，JFrog 使日立電機公司能夠加速多個站點的流程並向左移動安全。
正確擴充套件以保護 ML 模型開發的每個階段
JFrog 今天宣布的一系列新產品和增強功能之所以引人注目，是因為它們在從源程式碼的最初提交到 ML 模型的構建、測試、部署和執行過程中，建立了安全性和程式碼完整性。研究公司 IDC 的研究副總裁吉姆·默瑟表示：“將 ML 模型從頭到尾部署到生產環境可能需要相當多的時間和精力。然而即使上線後，使用者仍然面臨著模型效能、模型偏差和模型漂移等挑戰。”因此具備一個能夠自動化開發、持續管理和保護 ML 模型以及所有打包成應用程式的其他元素的單一記錄系統，對於最佳化這一過程而言，提供了一個引人注目的選擇。”
JFrog 的 DevOps、工程和產品管理團隊值得讚揚，因為他們在最新的釋出中整合了 AI/ML 技術，以改進合規性、編碼、開發者生產力和威脅檢測等方面。下表比較了 JFrog 在擴充套件核心軟體供應鏈安全屬性方面所取得的進展：
JFrog 在核心供應鏈安全方面的進展
| 供應鏈安全屬性 | JFrog 的進展 |
|---|---|
| 軟體二進位制檔管理 | 是 |
| 資源庫管理 | 是 |
| 持續整合/持續交付(CI/CD) | 是 |
| 開源軟體庫管理 | 是 |
| 容器映像檔管理 | 是 |
| 軟體供應鏈風險檢測 | 是 |
| 記錄和監控 | 是 |
資料來源：《VentureBeat》對 JFrog 在 2023 年 swampUP 大會上的釋出發表的分析
保護 ML 模型的安全性需要可擴充套件的平臺架構
隨著攻擊者不斷將人工智慧武器化，ML 模型的威脅將繼續加劇。軟體供應鏈中的諸多漏洞直接影響團隊為了將 ML 模型投入生產和廣泛使用的生產力。JFrog 開發一個結合 DevSecOps 基礎的平臺，以提供對 ML 模型的端到端視野和控制，這定義了安全軟體供應鏈的未來。每個 CISO、DevOps 領導者和 CEO 都在押注，ML 模型的安全性必須不斷發展才能應對各種威脅，而像 JFrog 這樣重新定義了如何在規模上保護 ML 模型的平臺架構，是安全軟體供應鏈未來的核心所在。
《VentureBeat》的使命是成為技術決策者獲取有關轉型企業技術知識和進行交易的數位城鎮廣場。理解我們的簡報。
