Modular 獲得 1 億美元資金，打造最佳化和建立 AI 模型的工具
概述
Modular 是一家致力於開發和最佳化人工智慧系統的新創公司，最近在一輪由 General Catalyst 領投，GV（Google Ventures）、SV Angel、Greylock 和 Factory 參與的融資中獲得 1 億美元的資金。這筆資金將用於產品擴充套件、硬體支援以及擴大 Modular 的程式設計語言 Mojo。Modular 的 CEO Chris Lattner 在接受 TechCrunch 的電子郵件存取中表示：“由於我們在一個需要高度專業的技術領域中運營，我們打算用這筆資金支援團隊的成長。這筆資金主要不會用於 AI 計算，而是用於改善我們的核心產品並擴大以滿足客戶的需求。”
Modular 的背景和產品
Modular 成立於 2022 年，由前 Google 員工 Chris Lattner 和 Tim Davis 共同創立。他們認為，AI 的發展受到了複雜且分散的技術基礎設施的約束，因此創立了 Modular，致力於消除大規模建立和維護 AI 系統的複雜性。Modular 提供一個引擎，試圖提高 AI 模型在 CPU 和即將於今年晚些時候推出的 GPU 上的推理效能，同時實現成本節省。Modular 引擎當前正在進行封閉預覽，可以讓開發人員匯入訓練好的模型，並且執行速度比其原生框架快 7.5 倍，Lattner 稱。Modular 的另一款主打產品 Mojo 是一種程式設計語言，旨在將 Python 的易用性與快取、自適應編譯技術和超程式設計等功能相結合。當前 Modular 計劃在下個月初正式發布 Mojo。
AI 市場的需求和挑戰
AI 的需求不斷增長，但其計算要求往往超出了當前的可持續性界限。最近，《華爾街日報》的一篇文章指出，如今的生成式 AI 模型比以前的模型大 10 到 100 倍，而公共雲基礎設施並未專為大規模執行這些系統而建立。這已經對市場產生了影響。微軟在財報中警告，公司面臨執行 AI 所需伺服器硬體短缺的問題，可能導致服務中斷。同時對 AI 推理硬體（主要是 GPU）的需求飆升，使 GPU 供應商英偉達的市值達到 1 萬億美元。然而英偉達也成了自己成功的受害者，據報導，該公司的最佳 AI 晶片已售罄至 2024 年。因此根據 S＆P Global 2023 年的一項調查，超過半數的頂級公司 AI 決策者報告遭遇部署最新 AI 工具的障礙。
Modular 的解決方案和挑戰
Modular 試圖解決 AI 發展中的複雜性問題和碎片化技術堆疊的問題。對此有人可能會問，Modular 能否在 Python 在機器學習社區中已經普及的情況下，推動其新程式設計語言 Mojo 的廣泛應用呢？根據一項調查，截至 2020 年，有 87%的資料科學家定期使用 Python。但 Lattner 認為，Mojo 的優勢將推動其增長。他表示：“有一個常常被誤解的問題是，AI 應用不僅僅是一個高效能加速器的問題。如今 AI 是一個從頭到尾的資料問題，涉及資料載入和轉換、預處理、後處理和網路等輔助任務。這些輔助任務通常使用 Python 和 C++完成，只有 Modular 的 Mojo 方法才能將所有這些元件結合到一個統一的技術基礎上，而不會降低效能和可伸縮性。” Lattner 認為，Mojo 的好處將吸引使用者，Modular 的社區在四個月內增長到超過 12 萬名開發人員，並且已經有“領先的科技公司”在使用該新創公司的基礎架構，等待名單上有 3 萬人。
編者評論
Modular 希望成為解決 AI 複雜性和碎片化技術堆疊的方案，以實現 AI 產品和服務更加負擔得起、可持續和可達的目標。然而 Modular 面臨的挑戰不容忽視。Python 作為機器學習社區的主流程式設計語言，已經在大多數資料科學家中得到廣泛應用，因此 Modular 在推動 Mojo 的廣泛應用方面可能面臨一定的障礙。儘管如此 Modular 在幾個月內已經吸引了大量的開發人員，並且許多領先的科技公司已經開始使用他們的產品。
結論和建議
Modular 的核心產品和技術在 AI 領域具有潛力。AI 的快速發展意味著在 AI 計算方面遇到的挑戰和需求將持續增加，因此需要簡化和最佳化 AI 系統建立和維護的工具。Modular 的引擎和 Mojo 程式設計語言提供了一個解決方案，可以幫助企業更有效地部署 AI 技術，降低成本並提高效能。然而 Modular 需要在市場中應對競爭，並解決 AI 社區中 Python 普及性的難題。Modular 應該繼續擴大其社區和客戶基礎，與科技巨頭合作，並持續改進其產品和技術，以確保在 AI 工具領域取得成功。
