離線部署語言模型：企業面臨的挑戰
挑戰與需求
企業組織普遍認為部署大型語言模型(LLMs)至 2024 年初是一項最重要的目標。然而相關調查顯示，缺乏客製化和靈活性以及無法保留公司知識和智慧財產權，是阻礙企業將 LLMs 應用於生產的主要障礙。此外企業對於隱私權和資料定制方面的擔憂也是影響因素。Giga ML 的解決方案
為應對此挑戰，Giga ML 成立了一個新平臺，該平臺允許企業在本地部署 LLMs，從而節省成本並保護隱私。該新平臺提供了名為“X1 系列”的 LLMs，用於生成程式碼和回答常見客戶問題等任務。此外 Giga ML 聲稱其模型在某些基準測試中優於流行的 LLMs。疑慮與期待
然而 Giga ML 是否能在開源及離線 LLMs 的海洋中引起轟動仍然是未知數。此外具體情況下 X1 如何進行定性比較也很難確保，因為即使記者試用了 Giga ML 的網上展示，也遇到了技術問題。隱私權問題與企業需求
根據 Predibase 的研究，由於關於向供應商分享敏感或專有資料的擔憂，不到四分之一的企業願意使用商業 LLMs。幾乎 77%的受訪者表示出於隱私、成本和缺乏定制化等原因，他們不使用或不計劃在生產中使用商業 LLMs。風險與機會
Giga ML 的離線部署模型在企業層面可能有著隱私優勢，這對一些企業而言可能具有說服力。Vummadi 強調了在離線執行模型方面的隱私優勢，他指出 Giga ML 的產品對於 C 級主管及 IT 經理而言都是有價值的。未來展望
Giga ML 已獲得來自 Nexus Venture Partners、Y Combinator、Liquid 2 Ventures、8vdx 和其他投資者的約 374 萬美元的風險投資，並計劃在短期內壯大團隊和加固產品研發。該公司還打算支援現有客戶群，當前客戶包括金融和醫療健康領域的企業，然而這些客戶未予透露名稱。結語
無疑，企業對語言模型的需求還將持續增長，但是私隱和保密等問題始終是企業該如何解決的難題。Giga ML 的離線部署語言模型預計將會應對其挑戰並為企業提供一個值得考慮的解決方案。ArtificialIntelligence-GigaML,離線部署,低資源,語言模型,企業
延伸閱讀
- 英特爾等公司承諾為企業打造開放生成式人工智慧工具
- 英偉達 CEO 呼籲企業應將注意力轉向「AI 工廠」而非資料中心
- Reddit 推出免費工具，協助企業在上市前擴大在網站上的存在
- Faddom 籌集 1200 萬美元，幫助企業對 IT 基礎設施進行全面定位
- 奈及利亞太陽能供電公司 Arnergy 籌得 300 萬美元，為家庭和企業提供太陽能系統
- Meesho 透過微型企業家填補印度供應鏈網路的漏洞
- Google 公佈利用影片和大型語言模型訓練機器人的新方法
- 新標題：初創企業並沒有像你想的那麼糟糕
- Vestwell 籌集到 1.25 億美元，協助企業推動職場儲蓄方案
- Adobe 宣布放棄收購 Figma 後，如何填補 20 億美元的大洞？
