Clika: 將 AI 模型執行效能極限重新定義的科技公司
Clika 是一家正在建立平臺的科技公司,旨在使 AI 模型執行更快速。創辦人 Ben Asaf 在 Intel 在 2017 年收購的自動駕駛新創公司 Mobileye 擔任開發基礎設施的工作多年,同時致力於加速 AI 模型訓練的方法研究。作為機器學習運營(MLOps)的專家,他開發了用於簡化 AI 模型在生產環境中部署以及維護和監控的工具,並受此啟發創立了 Clika,希望消除軟體工程師和企業部署 AI 模型所面臨的主要障礙。
重新定義 AI 模型部署的挑戰
Asaf 在接受 TechCrunch 的電子郵件訪談時表示:"當我最初想到創辦一家公司時,沒有多少公司和人具有在 AI 開發流程中建立或實施 MLOps 實踐的工業經驗。" 他認為他們可以使 AI“變小”,使其更輕量化、更快速、更容易產品化和商業化。
2021 年,Asaf 與他的妻子 Nayul Kim 合作創辦了 Clika。Kim 此前一直擔任企業數位轉型顧問工作,Clika 參加了 TechCrunch Disrupt 的 Startup Battlefield 200 比賽。Clika 為企業提供了一個工具包,可以自動“壓縮”內部開發的 AI 模型,減少它們所需的計算資源,同時加快推論速度。
Asaf 介紹說:“透過使用 Clika,您只需存取預先訓練好的 AI 模型,就可以獲得完全相容目標裝置(伺服器、雲端、邊緣裝置或嵌入式裝置)的『自動壓縮』模型。” 為了實現這一目標,Clika 依賴於量子化等技術,量子化可以減少模型中表示訊息所需的位元數量, sacrificing some precision,從而不會影響其執行特定任務的能力,例如識別不同的狗品種。Clika 還會生成一份報告,列出可以改進或更改模型以提高效能的潛在建議。
在硬體短缺的環境中提高模型效能的興趣
隨著 AI 行業面臨與執行這些模型所需的硬體相關的供應鏈問題,對提高模型效能的方法越來越感興趣。微軟最近在盈利報告中警告說,由於 AI 硬體短缺,Azure 客戶可能面臨服務中斷的風險。與此同時據報導,Nvidia 最佳表現的 AI 晶片——H100 GPU 系列——已售罄到 2024 年。
當然 Clika 不是唯一一家追求壓縮 AI 模型方法的初創企業。有 Intel 支援的 Deci;像 Clika 一樣自動最佳化和打包各種不同硬體的模型的 OctoML;以及專為邊緣裝置最佳化 AI 模型的新創公司 CoCoPie。但 Asaf 主張 Clika 在技術上具有優勢。他說:“其他解決方案使用基於規則的壓縮技術,而 Clika 的壓縮引擎採用了[一種]理解不同 AI 模型結構並為每個獨特的 AI 模型應用最佳壓縮方法的 AI 方法。” “ 我們擁有世界上最好的視覺 AI 壓縮工具包,在效能上優於 Meta 和 Nvidia 開發的現有解決方案。”
“世界上最好的”是一項非常大的宣稱。但 Clika 已經贏得了投資者的青睞,去年在預種輪中籌集了 110 萬美元,參與投資者包括 Kimsiga Lab、Dodam Ventures、D-Camp 和天使投資人李成熙。 Asaf 對於顧客的動力還不願透露太多 - Clika 當前還沒有營收,只對少數公司進行了封閉測試。但他表示 Clika 計劃在不久的將來追求種子融資。
延伸閱讀
- 在 TC 的 Techstars 調查內部以及人工智慧如何加速殘障科技
- Orbex 新一輪融資或加速其 Prime 微型運載火箭進入軌道
- 區塊鏈新創 Sei Labs 推出引人注目的解決方案,加速以太坊交易
- 中國生成影片競賽加速升溫
- 機器學習加速食品廠污染檢測
- "Hommiestoken:11 月上市,以真實應用重新定義加密貨幣領域"
- 如何 AI 和其他技術加速遊戲開發?| Steven Collins 專訪
- Bumble 執行長 Whitney Wolfe Herd 分享 AI 將如何「超強加速」愛情與關係
- Uber Eats 與 Getir 在歐洲達成協議,以加速雜貨配送
- AI 生成更多的假訊息:如何加速假訊息的蔓延?