SiMa.ai 宣布推出零程式碼機器學習平臺 Palette Edgematic
SiMa.ai 在邊緣裝置領域擊敗 Nvidia
今年早些時候，圖形處理器製造商 Nvidia 以超過 1 萬億美元的市值加入罕見的萬億美元俱樂部，這主要歸功於矽谷對生成式人工智慧（Generative AI）和機器學習（ML）應用的興趣和發展。Nvidia 的 GPU 是培訓像 OpenAI 的熱門 GPT 模型這樣的大型基礎 AI 模型的首選硬體，甚至在某些情況下，是必需的硬體。因此由於 Nvidia GPU 的供應短缺，最近成為了矽谷的一個熱門話題。現在與此相對的是，另一家名為 SiMa.ai 的公司推出了一款新產品，該公司聲稱在快速增長的邊緣裝置領域的機器學習效能方面將繼續超越 Nvidia 晶片。SiMa.ai 位於加州聖何塞，該公司的創始人兼執行長 Krishna Rangasayee 在接受 VentureBeat 的獨家影片訪談中表示：“在效能和功耗方面，我們是第一個在邊緣裝置領域超越 Nvidia 的公司。”他引用了兩家公司的 MLPerf 基準分數作爲證據。這款新產品名為 Palette Edgematic，是一個無程式碼拖放的軟體平臺，透過 SiMa.ai 現有的 Palette 軟體以及自家獨有的 MLSoC 矽晶片（由領先供應商臺積電（TSMC）按規格生產）快速、可靠地在實地上的邊緣裝置上部署機器學習模型，使得“沒有機器學習背景的任何人都能夠部署非常復雜的系統”，Rangasayee 說。
邊緣裝置的挑戰
邊緣裝置是部署在重型工業裝置、石油和天然氣廠、太陽能板和風力發電機組、製造工廠甚至軍事硬體（如無人機）上的感測器陣列和監測計算機系統，使它們能夠理解自己的環境和條件，及時檢測並通知相關人員進行維護，以避免停機，提高執行時間、效能和成本節省。由於這些裝置所處的物理環境極具挑戰性，以往這些裝置上的計算機執行簡單，硬體約束，無法執行機器學習應用所需的資源密集型處理。是的，一些處理過程可以移到雲端，但並非全部，事實上對於能源和軍事等重要裝置和操作來說本地處理能力至關重要。Rangasayee 解釋說：“我們觀察到的核心問題是，我們看到 AI 和 ML 在雲端有規模上的應用，我們也在移動平臺上看到了 AI 和 ML 的成功應用。但我認為實際遺忘的是邊緣嵌入式領域，這個領域實際上可以說是現實世界和工業界，因爲它們沒有取得相應的成果。”
挑戰巨頭
儘管 Rangasayee 和他的同事對 Nvidia 及其取得的成就充滿敬意（Rangasayee 稱 Nvidia 的 CUDA 軟體“非常出色”），並且相信兩家公司可以在不同的市場細分中共存，但他們難以否認，他們希望潛在客戶從 Nvidia 轉換到 SiMa.ai 的硬體和軟體。Rangasayee 指出：“如果您使用的是 NVIDIA PCI Express 卡，您可以更換它。您只需插入該卡，基本上就可以執行。所以轉換非常容易，特別是因為我們的軟體非常易於使用，這使得我們成爲一個可行的替代品。”事實上 Rangasayee 認為，由於直到最近，商業性可行的、價格合理的替代品效能無法與 Nvidia 相比，因此許多使用邊緣裝置的人只能預設使用 Nvidia 晶片和軟體。“儘管 Nvidia 不適合用於邊緣裝置，但它們一直被認爲是因為他們在軟體方面表現出色，“ Rangasayee 表示。“並且他們還沒有真正具有競爭力的對手。”
現實應用案例
該公司的創始人兼執行長認爲，SiMa.ai 的 Palette Edgematic 的易用性和效能優勢將在這個特定的應用案例中取勝，而且已經取得了一些客戶的成功應用。Rangasayee 向 VentureBeat 的記者展示了使用 Palette Edgematic 建立的應用程式分析的軍事無人機影片片段，得益於 SiMa.ai 的硬體和軟體的組合，每秒影格率從每 3 幀提高到了每秒 60 幀。他還展示了 Palette Edgematic 使用者如何輕鬆地從可信的開源 AI 模型庫中拖放完整的機器學習程式碼模組和應用程式到其邊緣裝置，並進行必要的調整，若有需要。“你挑選你的機器學習模型，拖放，構建你的計算機視覺管道，然後說‘嘿，這是我的感知引擎。這是我的 SLAM 引擎。這是我的語義分割。’然後按一個按鈕，它所有的執行在裝置上。幾分鐘後，您就能得到資料，完成工作。而通常這需要九個月的時間。”Rangasayee 表示使用 Palette Edgematic，一個客戶可以將參與這類繁重專案的開發人員人數從 75 人減少到約 2 人，並以更快的速度使用更少的資源獲得相同的結果。難怪他最喜歡的口號之一是“從幾個月到幾分鐘。”
SiMa.ai 和 Palette Edgematic 的未來
SiMa.ai 認為，Palette Edgematic 的釋出只是實現其“使非技術使用者能夠在邊緣部署機器學習變得容易和可靠”的使命的開始。“每季度，我們都會繼續增加更多的機器學習模型以及計算機視覺管道庫，並讓它越來越易於使用和強大。” Rangasayee 表示。“這就是我們前進的旅程。”他將 Palette Edgematic 比作蘋果 iPhone 推出時相對於使用黑莓或諾基亞手機的情況，因爲後者的使用不夠直觀，而這是與蘋果產品發布會當天最相稱的比較。“每位高中生都應該能夠建立複雜的計算機視覺管道，” Rangasayee 說。“我們正在從計算機視覺開始。公司在這方面有更大的抱負。” VentureBeat 的使命是成爲技術決策者獲取企業技術轉型知識和交易的數位廣場。
延伸閱讀
- Alphabet 旗下 Intrinsic 將 Nvidia 技術融入機器人平臺
- Uber 和 Nvidia 支援的 Serve Robotics 以 4,000 萬美元的鉅額進軍公開市場
- Nvidia 下一代 Blackwell 平臺將於 2025 年初登陸 Google 雲端
- Nvidia 挑起 AI 晶片新創公司的投資風暴，Hailo 仍堅守戰場
- 海洛科技獲得 1.2 億美元融資，持續與 Nvidia 角力，在多數 AI 晶片新創公司陷入困境的情況下
- Nvidia 或成下一個 AWS 霸主？
- Nvidia 攜手人形機器人頂尖品牌打造全新 AI 平臺「GR00T」
- Nvidia GTC 2024：AI 世界齊聚的關鍵活動
- Aethero 想要成為太空產業的英特爾或 Nvidia
- Nvidia 最新工具讓你可以在電腦上執行 GenAI 模型
