VMware 和 Nvidia 宣布全新的結合 AI 培訓和部署的解決方案
VMware 和 Nvidia 今天宣布,他們將他們長達十年的戰略合作關係延伸,推出一個名為 VMware Private AI Foundation with Nvidia 的全新一體化解決方案,專注於生成式人工智慧(generative AI)培訓和部署。這個產品提供了企業所需的一切,從軟體到計算能力,使它們能夠在 VMware 的混合雲基礎設施上對大型語言模型進行精密調整,並執行私有且高效的生成式人工智慧應用程式。
VMware 的執行長 Raghu Raghuram 在一份宣告中表示:“客戶的資料無處不在——在他們的資料中心、邊緣和雲中。與 Nvidia 一起,我們將賦予企業在其資料旁執行生成式人工智慧工作負載的自信,同時解決企業資料隱私、安全和控制的問題。”然而這個解決方案仍在開發中,預計將於 2024 年初正式推出。
全新一體化解決方案將帶來什麼
當今企業正在競相建立由大型語言模型驅動的定制應用和服務(如智慧聊天機器人和摘要工具)。麥肯錫估計,生成式人工智慧每年能為全球經濟帶來多達 4.4 萬億美元的增長。然而在這場競賽中,許多團隊在碎片化的環境中工作,為了資料的安全性和生成式人工智慧應用程式的效能,他們難以保持最佳標準。透過這個全新的一體化套件,VMware 和 Nvidia 透過為執行 VMware 的雲基礎設施的企業提供一站式服務,解決了這個挑戰。企業可以使用任何開放模型(例如 Llama 2、MPT 或 Falcon),對其進行迭代,以簡化生成式人工智慧應用程式的開發、測試和部署。
VMware 產品管理副總裁 Paul Turner 在新聞簡報中表示:“它(解決方案)將利用 Nvidia NeMo 框架的所有功能,該框架可讓您採用這些模型,並幫助您進行預調優、質問調優以及最佳化生成式人工智慧工作負載的執行時和結果。所有這些都建立在我們的虛擬化平臺 VMware Cloud Foundation 上。”
VMware Private AI Foundation with Nvidia 的架構
作為眾所周知的,NeMo 框架是一個端到端的雲原生解決方案,結合了自定義框架、護欄工具、資料蒐集工具和預訓練模型,幫助企業將生成式人工智慧應用程式部署到生產環境中。同時 VMware Cloud Foundation 是該公司的混合雲平臺,使企業可引入其資料,並提供一套完整的軟體定義服務來執行開發的應用程式。這個全新的解決方案保護資料隱私,確保企業能夠在其資料所在的位置旁邊執行人工智慧服務。此外 Nvidia 的基礎設施負責處理計算,其效能甚至可超過裸金屬服務。多個生態系統的原始裝置製造商將推出搭載 Nvidia L40S GPU(其推理效能比 Nvidia A100 Tensor Core GPU 高出 1.2 倍,訓練效能高出 1.7 倍)、BlueField-3 資料處理單元和 ConnectX-7 SmartNIC 的 Nvidia AI 企業型系統,以執行 VMware Private AI Foundation with Nvidia。Turner 指出,這個解決方案可以在單個虛擬機上將工作負載擴充套件到 16 個虛擬 GPU,並跨多個節點加快生成式人工智慧模型的精密調整和部署速度。
附加功能
除此之外,VMware 正在為這個聯合解決方案開發差異化的能力,包括能夠加快企業構建生成式人工智慧應用程式的深度學習虛擬機(VM)。Turner 指出:“我們相信許多客戶將受益於能夠彈出並啟動已預先配置合適內容的 VM。我們還將在其中內建一個向量資料庫,使用 PG vector 的 Postgres,這將非常有用,因為人們在構建這些模型時,有時需要將快速變動和變化的訊息放入一個向量資料庫中;可以將其視為“lookaside 緩衝區”。
當前 VMware Private AI Foundation with Nvidia 的工作仍在進行中,首批支援 AI 的系統預計將於年底推出,全套產品預計於 2024 年初正式上市。Nvidia 預計有超過 20 家全球原始裝置製造商將推出支援 VMware Private AI Foundation 的 100 多個伺服器,其中包括戴爾技術、惠普企業和聯想等等。
延伸閱讀
- 亞馬遜推出 Bedrock Studio:簡化生成式人工智慧應用開發
- Alphabet 旗下 Intrinsic 將 Nvidia 技術融入機器人平臺
- 本週人工智慧大事記:生成式人工智慧與創作者補償的問題
- Dropbox、Figma CEO 支援 Lamini:新創公司打造企業專用生成式人工智慧平臺
- 亞馬遜計劃託管企業定製的生成式人工智慧模型
- Uber 和 Nvidia 支援的 Serve Robotics 以 4,000 萬美元的鉅額進軍公開市場
- Google 雲端大會:Google 全力開發生成式人工智慧
- Google 將生成式人工智慧技術注入其雲安全工具
- Nvidia 下一代 Blackwell 平臺將於 2025 年初登陸 Google 雲端
- Nvidia 挑起 AI 晶片新創公司的投資風暴,Hailo 仍堅守戰場