替代雲端方案在企業尋求更便宜 GPU 存取的蓬勃發展
引言：替代雲端商業模式崛起
近期，眾多公司紛紛尋求更便宜 GPU（圖形處理單元）存取的替代雲端方案。例如，GPU 基礎架構提供商 CoreWeave 本週宣布獲得新一輪 11 億美元融資，投資者包括 Coatue、Fidelity 和 Altimeter Capital。此外 Lambda Labs 和 Voltage Park 分別獲得數億美元融資，Together AI 也獲得了 1.06 億美元的投資。這些資料表明了替代雲端方案市場的蓬勃發展。
背景：GPU 在 AI 模型訓練中的重要性
隨著生成式人工智慧技術的持續發展，對用於大規模執行和訓練生成式人工智慧模型的硬體需求也在不斷增加。在這方面，GPU 由於其架構特點在訓練、微調和執行模型時，其效能得到充分發揮。然而安裝 GPU 的成本高昂，因此大多數開發人員和組織轉向雲端解決方案。
成本效益：替代雲端方案優勢凸顯
儘管市場上的主流雲端計算服務商（如 Amazon Web Services、Google Cloud 和 Microsoft Azure）提供了許多針對生成式人工智慧工作負載最佳化的 GPU 和特殊硬體實例，但對於一些模型和專案來說替代雲端方案的成本效益更高，並且提供了更好的可用性。以 CoreWeave 為例，租用一個 Nvidia A100 40GB 的實例每小時僅需 2.39 美元，而在 Azure 和 Google Cloud 上，相同的 GPU 實例每小時分別為 3.40 美元和 3.67 美元。由此可見，對於使用 GPU 叢集進行生成式 AI 工作負載的組織來說成本差異迅速增加。
專家觀點：雲端基礎架構的競爭格局
市場觀察人士指出，替代雲端服務提供商參與了一個我們稱之為“GPU 即服雲”的市場。這樣的市場正日漸受到大型科技公司的青睞，他們也開始轉向替代雲端供應商以解決計算能力挑戰。而在未來，大型雲端供應商也將透過自家定製硬體來增強競爭力，如 Google 的 TPU、Microsoft 的 Azure Maia 和 Azure Cobalt 以及 AWS 的 Trainium、Inferentia 和 Graviton。
展望：替代雲端方案的可持續發展
然而替代雲端方案的發展是否可持續還有待觀察。管理諮詢公司 Forrester 的首席分析師 Lee Sustar 認為，替代雲端提供商能否持續大規模提供 GPU 並提供具競爭力的低價格是其發展的決定性條件。另外存在生成式人工智慧泡沫爆破的風險，這可能會導致提供商擁有大量的 GPU 而缺乏足夠的需求。
結論：多雲戰略時代的到來
總的來說專家們預計未來將會有更多替代雲端服務提供商崛起。對於那些早已擁有多雲策略，並能夠處理多雲管理、安全性、風險和合規性問題的客戶來說這些 GPU 導向的雲端新創公司將會給大型雲端供應商帶來充分競爭壓力。因此這樣的雲端客戶可能會樂於嘗試新的人工智慧雲端解決方案，只要這些新創公司具有可信的領導層、穩健的財務支援和無需等待時間的 GPU 供應。
