市場觀察

Clika 研發平臺:加速 AI 模型執行,重新定義效能極限

Clika: 將 AI 模型執行效能極限重新定義的科技公司 Clika 是一家正在建立平臺的科技公司,旨在使 AI 模型執行更快速。創辦人 Ben Asaf 在 Intel 在 2017 年收購的自動駕駛新創公司 Mobileye 擔任開發基礎設施的工作多年,同時致力於加速 AI 模型訓練的方法 .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

Clika 研發平臺:加速 AI 模型執行,重新定義效能極限

Clika: 將 AI 模型執行效能極限重新定義的科技公司

Clika 是一家正在建立平臺的科技公司,旨在使 AI 模型執行更快速。創辦人 Ben Asaf 在 Intel 在 2017 年收購的自動駕駛新創公司 Mobileye 擔任開發基礎設施的工作多年,同時致力於加速 AI 模型訓練的方法研究。作為機器學習運營(MLOps)的專家,他開發了用於簡化 AI 模型在生產環境中部署以及維護和監控的工具,並受此啟發創立了 Clika,希望消除軟體工程師和企業部署 AI 模型所面臨的主要障礙。

重新定義 AI 模型部署的挑戰

Asaf 在接受 TechCrunch 的電子郵件訪談時表示:"當我最初想到創辦一家公司時,沒有多少公司和人具有在 AI 開發流程中建立或實施 MLOps 實踐的工業經驗。" 他認為他們可以使 AI“變小”,使其更輕量化、更快速、更容易產品化和商業化。

2021 年,Asaf 與他的妻子 Nayul Kim 合作創辦了 Clika。Kim 此前一直擔任企業數位轉型顧問工作,Clika 參加了 TechCrunch Disrupt 的 Startup Battlefield 200 比賽。Clika 為企業提供了一個工具包,可以自動“壓縮”內部開發的 AI 模型,減少它們所需的計算資源,同時加快推論速度。

Asaf 介紹說:“透過使用 Clika,您只需存取預先訓練好的 AI 模型,就可以獲得完全相容目標裝置(伺服器、雲端、邊緣裝置或嵌入式裝置)的『自動壓縮』模型。” 為了實現這一目標,Clika 依賴於量子化等技術,量子化可以減少模型中表示訊息所需的位元數量, sacrificing some precision,從而不會影響其執行特定任務的能力,例如識別不同的狗品種。Clika 還會生成一份報告,列出可以改進或更改模型以提高效能的潛在建議。

在硬體短缺的環境中提高模型效能的興趣

隨著 AI 行業面臨與執行這些模型所需的硬體相關的供應鏈問題,對提高模型效能的方法越來越感興趣。微軟最近在盈利報告中警告說,由於 AI 硬體短缺,Azure 客戶可能面臨服務中斷的風險。與此同時據報導,Nvidia 最佳表現的 AI 晶片——H100 GPU 系列——已售罄到 2024 年。

當然 Clika 不是唯一一家追求壓縮 AI 模型方法的初創企業。有 Intel 支援的 Deci;像 Clika 一樣自動最佳化和打包各種不同硬體的模型的 OctoML;以及專為邊緣裝置最佳化 AI 模型的新創公司 CoCoPie。但 Asaf 主張 Clika 在技術上具有優勢。他說:“其他解決方案使用基於規則的壓縮技術,而 Clika 的壓縮引擎採用了[一種]理解不同 AI 模型結構並為每個獨特的 AI 模型應用最佳壓縮方法的 AI 方法。” “ 我們擁有世界上最好的視覺 AI 壓縮工具包,在效能上優於 Meta 和 Nvidia 開發的現有解決方案。”

“世界上最好的”是一項非常大的宣稱。但 Clika 已經贏得了投資者的青睞,去年在預種輪中籌集了 110 萬美元,參與投資者包括 Kimsiga Lab、Dodam Ventures、D-Camp 和天使投資人李成熙。 Asaf 對於顧客的動力還不願透露太多 - Clika 當前還沒有營收,只對少數公司進行了封閉測試。但他表示 Clika 計劃在不久的將來追求種子融資。

Technology-Clika 研發平臺,AI 模型執行,效能極限,加速,重新定義
江塵

江塵

Reporter

大家好!我是江塵,一名熱愛科技的發展和創新,我一直都保持著濃厚的興趣和追求。在這個瞬息萬變的數位時代,科技已經深入到我們生活的方方面面,影響著我們的工作、學習和娛樂方式。因此,我希望透過我的部落格,與大家分享最新的科技資訊、趨勢和創新應用。