FedML 籌集 1150 萬美元，將 MLOps 工具與去中心化 AI 計算網路結合
背景
企業對人工智慧（AI）的興趣持續增加，一項最近的調查發現近三分之二的公司計劃在今年增加或維持對 AI 和機器學習的支出。然而這些公司在將各種形式的 AI 部署到生產環境中時，往往遇到了一些問題。Rexer Analytics 的一項 2020 年的民意調查發現，只有 11％的 AI 模型始終被部署。此外一位 Gartner 分析師估計，接近 85％的大資料專案會失敗。
為了應對這些挑戰，南加州大學-亞馬遜可信任機器學習中心的創始主任 Salman Avestimehr 共同創辦了一家初創企業，該企業可以讓公司在雲端或邊緣訓練、部署、監控和改進 AI 模型。這家新創公司名為 FedML，在種子融資中籌集到了 1150 萬美元，估值為 5650 萬美元，由 Camford Capital 領投，Road Capital 和 Finality Capital 參投。
解決方案
FedML 的創辦人 Avestimehr 表示許多企業都希望使用公司特定或行業資料來訓練或微調定制的 AI 模型，從而應對各種業務需求。然而由於高昂的資料、雲基礎設施和工程成本，定制 AI 模型的建立和維護成本極高，而且訓練定制 AI 模型所需的專有資料往往是敏感的、受監管的或孤立的。
FedML 透過提供一個“協作”AI 平臺來克服這些障礙，讓公司和開發者可以共同合作完成 AI 任務，共享資料、模型和計算資源。FedML 可以執行任意數量的定制 AI 模型或來自開源社區的模型。使用該平臺，客戶可以建立一個協作者群組，並自動同步跨裝置（如 PC）的 AI 應用程式。協作者可以新增裝置用於 AI 模型訓練，例如伺服器甚至移動裝置，並實時追蹤訓練進度。
最近，FedML 推出了 FedLLM，這是一個用於基於專有資料構建“領域特定”大型語言模型（LLM）的訓練流水線，類似於 OpenAI 的 GPT-4。FedLLM 與流行的 LLM 庫（如 Hugging Face 和 Microsoft 的 DeepSpeed）相容，旨在提高定制 AI 開發的速度，同時保護安全和隱私（要明確的是，它是否確實實現了這一點還有待證實）。
市場競爭
從這個角度來看，FedML 與其他 MLOps 平臺並沒有太大差異。MLOps 是指用於簡化將 AI 模型投入生產、維護和監控的工具。市場上有許多類似的平臺，如 Galileo 和 Arize，還有 Seldon、Qwak 和 Comet 等等。AWS、Microsoft 和 Google Cloud 等已有的公司也以某種形式提供 MLOps 工具（例如 SageMaker 和 Azure Machine Learning 等）。
FedML 的優勢和未來
然而 FedML 的目標不僅僅是開發 AI 和機器學習模型工具。Avestimehr 表示目標是建立一個“社區”，集結 CPU 和 GPU 資源，以便在模型準備好部署後提供服務。具體細節尚未敲定，但 FedML 打算透過代幣或其他形式的補償鼓勵使用者為平臺貢獻計算資源。分散式、去中心化的計算對於 AI 模型服務並不是一個新的概念，已經有一些公司嘗試實現這一目標，例如 Gensys、Run.AI 和 Petals。
儘管如此 Avestimehr 相信透過將這種計算範式與 MLOps 結合起來，FedML 可以實現更廣泛的影響力和成功。“FedML 透過使開發者和企業能夠以更低的成本建立大規模、專有的和私密的大型語言模型，實現了定制 AI 模型”，Avestimehr 表示。“FedML 的區別在於能夠在任何地方訓練、部署、監控和改進機器學習模型，並透過合併資料、模型和計算來進行協作，從而大大降低成本和上市時間。”
結論和建議
FedML 當前擁有 17 名員工，累計融資金額達 1350 萬美元，其中包括本次新的融資。Avestimehr 聲稱，該平臺在全球範圍內有 3000 多名使用者，正在進行超過 8500 個訓練作業，涉及超過 1 萬個裝置。“對於資料或技術決策者來說 FedML 使定制且價格合理的 AI 和大型語言模型成為現實。”，Avestimehr 自信地說道。“FedML 的基礎是聯邦學習技術，依靠其 MLOps 平臺和協作 AI 工具，幫助開發者訓練、部署和觀察定制模型，建立定制的替代方案已成為可行的最佳實踐。”。
對於企業來說 FedML 的優勢在於它提供了一個整合多種功能的平臺，可以降低開發和部署定制 AI 模型的成本，並提高開發速度。然而企業在使用 FedML 之前應詳細考慮其資料安全和隱私政策，確保資料得到妥善保護。同時企業應該評估 FedML 在實際使用中的效能和效果，以確保它能夠為企業帶來價值。 FedML 的去中心化計算模式和與 MLOps 的結合將使其在市場上具有競爭力，但也需要持續創新和與其他 MLOps 平臺的區別來實現長期成功。
