Nvidia 推出 AI 工作臺 將模型微調帶到工作站
作者：Kyle Wiggers 時間：8 小時前
為了配合年度人工智慧學術會議 SIGGRAPH，Nvidia 宣布推出一個新的平臺，讓使用者能夠在個人電腦或工作站上建立、測試和自訂生成式人工智慧模型，然後再將其擴充套件至資料中心和公有雲。Nvidia 的創辦人兼首席執行長 Jensen Huang 在會議的主題演講中表示："為了普及這種能力，我們必須使它能夠執行在幾乎所有地方。"這個名為 AI 工作臺的服務可以透過本地工作站上的基本介面使用。開發人員可以使用它微調和測試來自 Hugging Face 和 GitHub 等流行儲存庫的模型，並在需要擴充套件的時候使用雲端計算資源。Nvidia 企業計算副總裁 Manuvir Das 表示開發 AI 工作臺的動力來自於自訂大型 AI 模型的挑戰性和耗時性。企業級的 AI 專案可能需要在多個儲存庫中搜尋適合的框架和工具，而當專案需要從一個基礎架構移至另一個基礎架構時，這個過程變得更加複雜。根據資料科學和商業分析平臺 KDnuggets 的一項調查，大多數回答的資料科學家表示在部署機器學習模型之前，他們的 80％或更多專案都陷入停滯。根據 Gartner 的另一項估計，接近 85％的大資料專案失敗，部分原因是基礎設施障礙。Nvidia AI 工作臺的簡化路徑有多"簡化"還存疑，但根據 Das 的觀點，AI 工作臺允許開發人員從開源資源中將模型、框架、SDK 和庫拉到統一的工作區中，包括用於資料準備和資料視覺化的庫。
AI 微調工具的興起
隨著 AI(尤其是生成式 AI)的需求增長，越來越多的工具專注於將大型通用模型微調為特定用途。像 Fixie、Reka 和 Together 等新創公司旨在讓企業和個人開發人員更容易地按照自己的需求自定義模型，而不必為昂貴的雲端計算付費。Nvidia 的 AI 工作臺提供了一種更分散的微調方法，即在本地機器上進行微調，而不是使用雲服務。這是有道理的，因為 Nvidia 及其 AI 加速 GPU 產品組合將受益; Nvidia 明確提到了它的 RTX 產品線。儘管 Nvidia 有商業動機，但這種方法可能吸引那些不想受限於單一雲端或服務進行 AI 模型實驗的開發人員。由於 AI 對 GPU 的需求推動了 Nvidia 的業績創下新高。今年 5 月，公司市值曾一度達到 1 萬億美元，此前一個財政季度的收入達到 71.9 億美元，較上一季度增長 19%。
建立企業 AI 模型的挑戰
根據最新調查，在部署機器學習模型之前，80%的專案將停滯不前，這表明企業在建立 AI 模型方面面臨著巨大的挑戰。建立企業級 AI 模型所需的基礎設施是一個復雜且耗時的過程，導致近 85%的大資料專案失敗。這些數位顯示了在 AI 領域，企業需要更加注重尋找合適的基礎設施和工具來支援 AI 應用的建立和上線。
編輯評論：
Nvidia 的 AI 工作臺為開發人員提供了一個非常實用的工具，使他們能夠在本地環境中建立和微調 AI 模型，並在需要擴充套件時使用雲端計算資源。這個平臺的推出將有助於解決企業建立和部署 AI 模型所面臨的困難。然而 AI 工作臺的簡化程度當前仍存疑，開發人員將需要進一步評估和測試這個工具的使用效能。
此外隨著對生成式 AI 的需求不斷增長，我們看到越來越多的 AI 微調工具出現。這些工具使開發人員能夠根據特定需求定制模型，無需依賴昂貴的雲端計算服務。這將有助於降低開發成本，並使更多企業和個人能夠參與 AI 模型的開發和應用。
建議：
對企業和個人開發人員來說使用 AI 工作臺進行模型微調是一個值得考慮的選項。然而在採用這個工具之前，開發人員應該評估該工具的簡化程度和功能效能。同時他們也可以考慮其他市場上的 AI 微調工具，以找到最適合自己需求的解決方案。
延伸閱讀
- Uber 和 Nvidia 支援的 Serve Robotics 以 4,000 萬美元的鉅額進軍公開市場
- Nvidia 下一代 Blackwell 平臺將於 2025 年初登陸 Google 雲端
- Nvidia 挑起 AI 晶片新創公司的投資風暴，Hailo 仍堅守戰場
- 海洛科技獲得 1.2 億美元融資，持續與 Nvidia 角力，在多數 AI 晶片新創公司陷入困境的情況下
- Nvidia 或成下一個 AWS 霸主？
- Nvidia 攜手人形機器人頂尖品牌打造全新 AI 平臺「GR00T」
- Nvidia GTC 2024：AI 世界齊聚的關鍵活動
- Aethero 想要成為太空產業的英特爾或 Nvidia
- Nvidia 最新工具讓你可以在電腦上執行 GenAI 模型
- MLCommons 欲為筆記型電腦、桌上型電腦及工作站建立人工智慧指標
