FedML 籌集 1150 萬美元，將 MLOps 工具與分散式 AI 計算網路結合
背景
企業對人工智慧的興趣不斷增加，最近的一項調查發現，將近六成的公司計劃在今年增加或保持對人工智慧和機器學習的支出。然而這些公司在將各種形式的人工智慧應用投入生產時遇到了阻礙。Rexer Analytics 在 2020 年的一項調查中發現，只有 11％的人工智慧模型總是被部署。此外 Gartner 的一位分析師估計，接近 85％的大資料專案失敗。
爲理解決這些挑戰，USC-Amazon Center on Trustworthy Machine Learning 的創始主任 Salman Avestimehr 共同創立了一家新創公司，該公司旨在為公司提供在雲端或邊緣上訓練、部署、監控和改進人工智慧模型的能力。這家名為 FedML 的新創公司在種子融資中籌集了 1150 萬美元，估值達到 5650 萬美元，由 Camford Capital 領投，Road Capital 和 Finality Capital 參投。
拋磚引玉
Avestimehr 在接受 TechCrunch 的郵件採訪時表示：“很多企業都希望能夠使用公司特定或行業資料來訓練或最佳化自定義的人工智慧模型，以便使用人工智慧解決各種業務需求。”然而由於高昂的資料、雲基礎設施和工程成本，自定義 AI 模型的建立和維護往往費時費力。此外用於訓練自定義人工智慧模型的專有資料通常具有敏感性、受到監管或被獨立封閉。
Avestimehr 表示 FedML 透過提供一個“合作”的人工智慧平臺來克服這些障礙，該平臺允許企業和開發人員透過共享資料、模型和計算資源一起進行人工智慧任務。FedML 可以執行任意數量的自定義 AI 模型或來自開源社區的模型。使用該平臺，使用者可以建立一組協作者，並自動同步其裝置（例如個人電腦）上的人工智慧應用。協作者可以新增用於 AI 模型訓練的裝置，例如伺服器甚至移動裝置，並即時跟蹤訓練進度。
新功能 FedLLM
最近，FedML 推出了名為 FedLLM 的訓練流程，用於基於專有資料構建“特定領域”的大型語言模型（LLMs），類似於 OpenAI 的 GPT-4。FedLLM 與 Hugging Face 和 Microsoft 的 DeepSpeed 等流行的 LLM 庫相容，旨在提高自定義人工智慧開發的速度，同時確保安全和隱私。
模型部署挑戰
從某種程度上來說 FedML 與其他 MLOps 平臺並沒有太大的區別。MLOps 指的是用於簡化將人工智慧模型投入生產以及維護和監控模型的工具。除了 Galileo 和 Arize 之外，還有 Seldon、Qwak 和 Comet 等。AWS、Microsoft 和 Google Cloud 等巨頭也以某種形式提供 MLOps 工具（例如 SageMaker、Azure Machine Learning 等）。
分散式計算的新思路
然而 FedML 的野心不僅僅在於開發人工智慧和機器學習模型工具。Avestimehr 表示目標是建立一個“社群”，用於主機和提供模型服務的 CPU 和 GPU 資源。具體細節尚未敲定，但 FedML 打算透過代幣或其他形式的補償來激勵使用者為平臺提供計算資源。對於 AI 模型服務的分散式計算，Gensys、Run.AI 和 Petals 等公司已經嘗試過，而且正在嘗試中。
不過 Avestimehr 相信透過將這種計算範式與 MLOps 軟體結合起來，FedML 可以實現更廣泛的覆蓋面和更大的成功。“FedML 透過使開發人員和企業能夠以更低的成本構建大型、專有和私有的語言模型，這是它與眾不同之處。” Avestimehr 表示“FedML 的獨特之處在於能夠在任何地方訓練、部署、監控和改進機器學習模型，並在資料、模型和計算上進行協作，從而顯著降低成本和上市時間。”
結語
根據 Avestimehr 的說法，FedML 當前擁有 17 名員工，擁有包括新資金在內的 1350 萬美元資金，並有大約 10 個付費客戶，包括一家一流的汽車供應商。當前全球有超過 3000 名使用者使用該平臺，在 10000 多個裝置上執行超過 8500 個訓練任務。
Avestimehr 自信地表示：“對於資料或技術決策者來說 FedML 使得自定義、負擔得起的人工智慧和大型語言模型變為現實。透過其基於聯邦學習技術的 MLOps 平臺和協作人工智慧工具，幫助開發人員訓練、提供和觀測自定義模型，構建自定義替代方案已成為可行的最佳實踐。”
關鍵詞：
FedML、MLOps、分散式人工智慧計算網路、籌集資金、AI、人工智慧、工具、技術
延伸閱讀
- AI 與影片履歷助力初入職場的新鮮人找到工作！
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 一年過去了，OpenAI 的聲音複製工具仍未問世！
- 亞馬遜成立新型代理 AI 團隊，將如何改變科技未來？
- 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
- 「搶先報名！TechCrunch Sessions: AI 演講者申請截止日期迫在眉睫！」
- MWC 最新報導：AI 影響力的兩極化觀點首次曝光！
- 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
