市場觀察

FedML 籌集了 1150 萬美元,將 MLOps 工具與分散式人工智慧計算網路相結合

FedML 籌集 1150 萬美元,將 MLOps 工具與分散式 AI 計算網路結合背景企業對人工智慧的興趣不斷增加,最近的一項調查發現,將近六成的公司計劃在今年增加或保持對人工智慧和機器學習的支出。然而這些公司在將各種形式的人工智慧應用投入生產時遇到了阻礙。Rexer Analytics 在 20 .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

FedML 籌集了 1150 萬美元,將 MLOps 工具與分散式人工智慧計算網路相結合

FedML 籌集 1150 萬美元,將 MLOps 工具與分散式 AI 計算網路結合

背景

企業對人工智慧的興趣不斷增加,最近的一項調查發現,將近六成的公司計劃在今年增加或保持對人工智慧和機器學習的支出。然而這些公司在將各種形式的人工智慧應用投入生產時遇到了阻礙。Rexer Analytics 在 2020 年的一項調查中發現,只有 11%的人工智慧模型總是被部署。此外 Gartner 的一位分析師估計,接近 85%的大資料專案失敗。 爲理解決這些挑戰,USC-Amazon Center on Trustworthy Machine Learning 的創始主任 Salman Avestimehr 共同創立了一家新創公司,該公司旨在為公司提供在雲端或邊緣上訓練、部署、監控和改進人工智慧模型的能力。這家名為 FedML 的新創公司在種子融資中籌集了 1150 萬美元,估值達到 5650 萬美元,由 Camford Capital 領投,Road Capital 和 Finality Capital 參投。

拋磚引玉

Avestimehr 在接受 TechCrunch 的郵件採訪時表示:“很多企業都希望能夠使用公司特定或行業資料來訓練或最佳化自定義的人工智慧模型,以便使用人工智慧解決各種業務需求。”然而由於高昂的資料、雲基礎設施和工程成本,自定義 AI 模型的建立和維護往往費時費力。此外用於訓練自定義人工智慧模型的專有資料通常具有敏感性、受到監管或被獨立封閉。 Avestimehr 表示 FedML 透過提供一個“合作”的人工智慧平臺來克服這些障礙,該平臺允許企業和開發人員透過共享資料、模型和計算資源一起進行人工智慧任務。FedML 可以執行任意數量的自定義 AI 模型或來自開源社區的模型。使用該平臺,使用者可以建立一組協作者,並自動同步其裝置(例如個人電腦)上的人工智慧應用。協作者可以新增用於 AI 模型訓練的裝置,例如伺服器甚至移動裝置,並即時跟蹤訓練進度。

新功能 FedLLM

最近,FedML 推出了名為 FedLLM 的訓練流程,用於基於專有資料構建“特定領域”的大型語言模型(LLMs),類似於 OpenAI 的 GPT-4。FedLLM 與 Hugging Face 和 Microsoft 的 DeepSpeed 等流行的 LLM 庫相容,旨在提高自定義人工智慧開發的速度,同時確保安全和隱私。

模型部署挑戰

從某種程度上來說 FedML 與其他 MLOps 平臺並沒有太大的區別。MLOps 指的是用於簡化將人工智慧模型投入生產以及維護和監控模型的工具。除了 Galileo 和 Arize 之外,還有 Seldon、Qwak 和 Comet 等。AWS、Microsoft 和 Google Cloud 等巨頭也以某種形式提供 MLOps 工具(例如 SageMaker、Azure Machine Learning 等)。

分散式計算的新思路

然而 FedML 的野心不僅僅在於開發人工智慧和機器學習模型工具。Avestimehr 表示目標是建立一個“社群”,用於主機和提供模型服務的 CPU 和 GPU 資源。具體細節尚未敲定,但 FedML 打算透過代幣或其他形式的補償來激勵使用者為平臺提供計算資源。對於 AI 模型服務的分散式計算,Gensys、Run.AI 和 Petals 等公司已經嘗試過,而且正在嘗試中。 不過 Avestimehr 相信透過將這種計算範式與 MLOps 軟體結合起來,FedML 可以實現更廣泛的覆蓋面和更大的成功。“FedML 透過使開發人員和企業能夠以更低的成本構建大型、專有和私有的語言模型,這是它與眾不同之處。” Avestimehr 表示“FedML 的獨特之處在於能夠在任何地方訓練、部署、監控和改進機器學習模型,並在資料、模型和計算上進行協作,從而顯著降低成本和上市時間。”

結語

根據 Avestimehr 的說法,FedML 當前擁有 17 名員工,擁有包括新資金在內的 1350 萬美元資金,並有大約 10 個付費客戶,包括一家一流的汽車供應商。當前全球有超過 3000 名使用者使用該平臺,在 10000 多個裝置上執行超過 8500 個訓練任務。 Avestimehr 自信地表示:“對於資料或術決策者來說 FedML 使得自定義、負擔得起的人工智慧和大型語言模型變為現實。透過其基於聯邦學習術的 MLOps 平臺和協作人工智慧工具,幫助開發人員訓練、提供和觀測自定義模型,構建自定義替代方案已成為可行的最佳實踐。”

關鍵詞:

FedMLMLOps、分散式人工智慧計算網路、籌集資金AI、人工智慧、工具
TechnologyorFundraising-FedML,MLOps,分散式人工智慧計算網路,籌集資金,AI,人工智慧,工具,
程宇肖

程宇肖

Reporter

大家好!我是程宇肖,我對於科技的發展和應用有著濃厚的興趣,並致力於將最新的科技趨勢和創新帶給大家。科技領域的變化速度驚人,每天都有令人興奮的新發現和突破。作為一名部落格作者,我將帶領大家深入探索科技的奧秘和應用的無限可能。