VMware 和 Nvidia 宣布全新的結合 AI 培訓和部署的解決方案
VMware 和 Nvidia 今天宣布，他們將他們長達十年的戰略合作關係延伸，推出一個名為 VMware Private AI Foundation with Nvidia 的全新一體化解決方案，專注於生成式人工智慧（generative AI）培訓和部署。這個產品提供了企業所需的一切，從軟體到計算能力，使它們能夠在 VMware 的混合雲基礎設施上對大型語言模型進行精密調整，並執行私有且高效的生成式人工智慧應用程式。
VMware 的執行長 Raghu Raghuram 在一份宣告中表示：“客戶的資料無處不在——在他們的資料中心、邊緣和雲中。與 Nvidia 一起，我們將賦予企業在其資料旁執行生成式人工智慧工作負載的自信，同時解決企業資料隱私、安全和控制的問題。”然而這個解決方案仍在開發中，預計將於 2024 年初正式推出。
全新一體化解決方案將帶來什麼
當今企業正在競相建立由大型語言模型驅動的定制應用和服務（如智慧聊天機器人和摘要工具）。麥肯錫估計，生成式人工智慧每年能為全球經濟帶來多達 4.4 萬億美元的增長。然而在這場競賽中，許多團隊在碎片化的環境中工作，為了資料的安全性和生成式人工智慧應用程式的效能，他們難以保持最佳標準。透過這個全新的一體化套件，VMware 和 Nvidia 透過為執行 VMware 的雲基礎設施的企業提供一站式服務，解決了這個挑戰。企業可以使用任何開放模型（例如 Llama 2、MPT 或 Falcon），對其進行迭代，以簡化生成式人工智慧應用程式的開發、測試和部署。
VMware 產品管理副總裁 Paul Turner 在新聞簡報中表示：“它（解決方案）將利用 Nvidia NeMo 框架的所有功能，該框架可讓您採用這些模型，並幫助您進行預調優、質問調優以及最佳化生成式人工智慧工作負載的執行時和結果。所有這些都建立在我們的虛擬化平臺 VMware Cloud Foundation 上。”
VMware Private AI Foundation with Nvidia 的架構
作為眾所周知的，NeMo 框架是一個端到端的雲原生解決方案，結合了自定義框架、護欄工具、資料蒐集工具和預訓練模型，幫助企業將生成式人工智慧應用程式部署到生產環境中。同時 VMware Cloud Foundation 是該公司的混合雲平臺，使企業可引入其資料，並提供一套完整的軟體定義服務來執行開發的應用程式。這個全新的解決方案保護資料隱私，確保企業能夠在其資料所在的位置旁邊執行人工智慧服務。此外 Nvidia 的基礎設施負責處理計算，其效能甚至可超過裸金屬服務。多個生態系統的原始裝置製造商將推出搭載 Nvidia L40S GPU（其推理效能比 Nvidia A100 Tensor Core GPU 高出 1.2 倍，訓練效能高出 1.7 倍）、BlueField-3 資料處理單元和 ConnectX-7 SmartNIC 的 Nvidia AI 企業型系統，以執行 VMware Private AI Foundation with Nvidia。Turner 指出，這個解決方案可以在單個虛擬機上將工作負載擴充套件到 16 個虛擬 GPU，並跨多個節點加快生成式人工智慧模型的精密調整和部署速度。
附加功能
除此之外，VMware 正在為這個聯合解決方案開發差異化的能力，包括能夠加快企業構建生成式人工智慧應用程式的深度學習虛擬機（VM）。Turner 指出：“我們相信許多客戶將受益於能夠彈出並啟動已預先配置合適內容的 VM。我們還將在其中內建一個向量資料庫，使用 PG vector 的 Postgres，這將非常有用，因為人們在構建這些模型時，有時需要將快速變動和變化的訊息放入一個向量資料庫中；可以將其視為“lookaside 緩衝區”。
當前 VMware Private AI Foundation with Nvidia 的工作仍在進行中，首批支援 AI 的系統預計將於年底推出，全套產品預計於 2024 年初正式上市。Nvidia 預計有超過 20 家全球原始裝置製造商將推出支援 VMware Private AI Foundation 的 100 多個伺服器，其中包括戴爾技術、惠普企業和聯想等等。
延伸閱讀
- 亞馬遜推出 Bedrock Studio：簡化生成式人工智慧應用開發
- Alphabet 旗下 Intrinsic 將 Nvidia 技術融入機器人平臺
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- Dropbox、Figma CEO 支援 Lamini：新創公司打造企業專用生成式人工智慧平臺
- 亞馬遜計劃託管企業定製的生成式人工智慧模型
- Uber 和 Nvidia 支援的 Serve Robotics 以 4,000 萬美元的鉅額進軍公開市場
- Google 雲端大會：Google 全力開發生成式人工智慧
- Google 將生成式人工智慧技術注入其雲安全工具
- Nvidia 下一代 Blackwell 平臺將於 2025 年初登陸 Google 雲端
- Nvidia 挑起 AI 晶片新創公司的投資風暴，Hailo 仍堅守戰場
