VMware 和 Nvidia 攜手推出全新的 VMware Private AI Foundation with Nvidia 解決方案
概述
VMware 和 Nvidia 宣布延長了已有十年的戰略合作，推出了一個名為 VMware Private AI Foundation with Nvidia 的全新完全整合解決方案，專注於生成式人工智慧（AI）的訓練和部署。該解決方案是一個以單一堆疊為基礎的產品，為企業提供了一切所需的軟體和計算能力，以在 VMware 的混合雲基礎架構中調校大型語言模型並執行私有且高效能的生成式 AI 應用。
企業需求和挑戰
當下，企業正競相建立由大型語言模型驅動的定制應用和服務（如智慧聊天機器人和摘要工具）。據麥肯錫估計，生成式 AI 每年可能為全球經濟帶來高達 4.4 萬億美元的增長新機會。
然而在這場競賽中，許多團隊在分散的環境中工作，努力維持對資料安全性和生成式 AI 應用的最佳標準。VMware 和 Nvidia 的這個全新完全整合解決方案旨在應對這一挑戰，為執行 VMware 雲基礎架構的企業提供一站式服務，以選擇任何開放模型（如 Llama 2、MPT 或 Falcon），對其進行迭代，以簡化生成式 AI 應用的開發、測試和部署。
VMware Private AI Foundation with Nvidia 的架構
VMware Private AI Foundation with Nvidia 基於 Nvidia NeMo 框架，該框架是一個端到端的基於雲原生的解決方案，結合了定制框架、監管工具、資料整理工具和預先訓練的模型，幫助企業將生成式 AI 部署到生產環境。
同時 VMware Cloud Foundation 是 VMware 的混合雲平臺，它可以讓企業匯入其資料，並提供一套完整的軟體定義服務來執行開發的應用。新解決方案保護資料隱私，確保企業能夠在資料所在的位置旁邊執行 AI 服務。此外 Nvidia 的基礎架構處理計算工作，提供與裸金屬相當甚至超過某些用例的效能。這將透過多個生態系統原始裝置製造商（OEM）的幫助實現，它們將推出支援 VMware Private AI Foundation 的 Nvidia AI Enterprise 系統。
此外 VMware 正在為這個合作解決方案進一步建立差異化的功能，包括可以加速生成式 AI 應用開發的深度學習虛擬機器（VMs）。VMware 還將在此解決方案中內建一個向量資料庫，用於儲存快速變動和變動的訊息，這對於生成式 AI 模型的構建非常有用。
結論和建議
VMware 和 Nvidia 的全新完全整合解決方案將為企業帶來許多潛在的好處。它將幫助企業在 VMware 雲基礎架構中開發、測試和部署生成式 AI 應用，並保護資料隱私和確保資料安全性。企業可以選擇自己喜好的開放模型，並利用 Nvidia 的 NeMo 框架進行預調和最佳化來提高生成式 AI 工作負載的執行效果。此外該解決方案具備可擴充套件性，能夠支援多個虛擬機和 GPU，加快生成式 AI 模型的調校和部署速度。
對於企業來說可以透過採用 VMware Private AI Foundation with Nvidia 解決方案來加速自身的生成式 AI 應用開發和部署過程，為企業創造更多的商機。然而在採用該解決方案之前，企業應該仔細評估其特定需求，確保它與現有基礎設施和應用的相容性。此外企業也應該關注資料隱私和安全性問題，適應相應的隱私保護和資料管理措施。
總之 VMware 和 Nvidia 的這個全新完全整合解決方案為企業提供了一個完整的工具集，以滿足生成式 AI 開發和部署的需求。這將有助於推動生成式 AI 應用的普及和擴充套件，為企業創造更多商機，同時也提出了關於資料隱私和安全性的重要問題，需要得到相應的關注和解決。
延伸閱讀
- 亞馬遜推出 Bedrock Studio：簡化生成式人工智慧應用開發
- Alphabet 旗下 Intrinsic 將 Nvidia 技術融入機器人平臺
- 女性在 AI 領域的傑出貢獻：Catherine Breslin 協助企業制定 AI 策略
- 替代雲技術蓬勃發展，企業尋求更便宜的 GPU 存取
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- 微軟禁止美國警方使用企業 AI 工具進行臉部辨識
- Microsoft 禁止美國警察局使用企業人工智慧工具
- Dropbox、Figma CEO 支援 Lamini：新創公司打造企業專用生成式人工智慧平臺
- 亞馬遜計劃託管企業定製的生成式人工智慧模型
- Uber 和 Nvidia 支援的 Serve Robotics 以 4,000 萬美元的鉅額進軍公開市場
