AI 晶片市場：Kneron 的 NPU 技術可作為 GPU 的競爭替代品
背景
隨著全球 AI 晶片短缺的擔憂，邊緣 AI 新創公司 Kneron 看到了其神經處理單元（NPU）技術作為一種有競爭力的替代品的機會。該公司今天宣布了其最新的 KL730 NPU，聲稱其比之前的型號能夠提供多達四倍的能效。這款新晶片還專門用於加速基於 GPT 的變形 AI 模型。Kneron 的矽芯主要用於邊緣應用，例如自動駕駛車輛以及醫療和工業應用，該公司還看到了企業部署的潛力。Kneron 得到了高通和富士康的支援，並與 Quanta 在邊緣伺服器上展開了部署。
NPU vs. GPU：兩種不同的 AI 晶片
Kneron 創始人兼 CEO Albert Liu 表示：“與 GPU 相比，NPU 擁有更多的核心。這些核心更高效，並且在存取性上更加細緻。當然 GPU 硬體專門為遊戲設計，現在只有 Nvidia 在試圖洗腦我們，說只有 GPU 才能實現 AI。”當然 Nvidia 的 GPU 技術是市場領先的，也是現代大型語言模型（LLM）和生成式 AI 的基礎。Liu 則認為未來情況可能會改變，並希望他的公司能夠在組織日益尋求滿足 AI 需求的情況下擴大市場份額。
Kneron 的技術和市場佔有率
Kneron 的晶片使用可重構的 AI 架構來加速 AI，這種架構與 GPU 使用的架構不同。透過 KL730，這種架構也被特別最佳化為 GPT 的基於變形的 AI 模型。KL730 並不是 Kneron 的第一款針對變形器進行最佳化的晶片，該公司兩年前宣布了具有此功能的 KL530 晶片。當時 Kneron 的矽芯用於幫助自動駕駛車製造商。Liu 表示變形器模型對於實時時間相關性檢測用例非常有用。然而至少對 Liu 來說當時還不清楚變形器將被廣泛用於實現 LLM 和生成式 AI。為了滿足 LLM 的需求，Liu 表示他的公司已經為 GPT 風格的應用程式將其 AI 晶片做得更大。 "可重構的 AI 架構可以動態更改晶片內部的結構，以支援幾乎任何新模型，" Liu 說道。
KL730 的新效能
透過 KL730，Kneron 對其 NPU 矽芯進行了一些顯著的效能改進。Liu 表示 KL703 的效能優於上一代產品並且可以進行叢集化。因此如果單個晶片對於特定用例不足夠，可以在更大的部署中將多個 KL703 聚集在一起。雖然 Kneron 的矽芯主要用於推斷（inference）用例，但 Liu 希望能夠將多個 KL730 結合在一起，以擴大技術在機器學習（ML）培訓方面的應用。Liu 表示：“對於伺服器應用，Kneron 已經擁有顧客，如 Naver、中華電信和 Quanta。” “富士康是我們的戰略投資者之一，他們正在與我們密切合作開發 AI 伺服器。”
評論與建議
探索替代 GPU 的機會
隨著全球對 AI 晶片的需求不斷增加，供應短缺問題的出現給了像 Kneron 這樣的初創企業一個探索替代 GPU 的機會。儘管 GPU 在 AI 領域一直佔據主導地位，但 Kneron 的 NPU 技術提供了一種更高效能的解決方案。Liu 的觀點引起了對 GPU 是否總能為 AI 提供最佳解決方案的思考。
邊緣應用的潛力
Kneron 的晶片主要針對邊緣應用，如自動駕駛車輛和醫療工業應用。這個定位為 Kneron 帶來了與高通和富士康等重量級企業的合作機會。對於企業部署，Kneron 也看到了潛在的機會，並希望透過在機器學習培訓領域擴大其技術的應用。
重要問題的思考
在 AI 晶片市場中，GPU 一直扮演著重要角色，並且被廣泛接受。然而 Liu 提出了一個值得思考的問題：是否有其他技術可以取代 GPU，更好地滿足不斷增長的 AI 需求？儘管市場對於 GPU 的需求仍然非常強烈，但是 Liu 的觀點提供了一個引人入勝的觀點，讓人們思考未來 AI 晶片發展的可能性。
結論
Kneron 在 AI 晶片市場上推出的 KL730 NPU 晶片提供了一種競爭 GPU 的替代品，具有更高的能效和針對 GPT 模型的最佳化架構。該公司的 NPU 技術在邊緣應用領域已經得到了廣泛應用，並且在企業部署方面也有潛力。然而儘管 GPU 仍然是市場領先的技術，Liu 提出了一個引人入勝的問題，即是否存在其他技術可以取代 GPU 並更好地滿足 AI 需求的不斷增長。
延伸閱讀
- 替代雲技術蓬勃發展，企業尋求更便宜的 GPU 存取
- 星碼大師 2：執行在大多數 GPU 上的程式碼生成人工智慧
- 蘋果全新 M3 晶片巨獲巨大 GPU 升級，專注遊戲與專業應用程式
- $180 美元的 Intel Arc A580：低價位 GPU 成為 Intel 的新選擇
- NVIDIA 如何成為機器人領域的重要角色
- 人工智慧晶片公司 Kneron 籌集 4900 萬美元，擴大其商業力量
- 蘋果推出全新 GPU 設計的 A17 Pro 晶片
- SQream 獲得 4500 萬美元投資，加速 GPU 資料分析
- SQream 獲得 4500 萬美元資金加速使用 GPU 進行資料分析
- Nvidia 強化 GPU 驅動程式更新，提升《Starfield》效能
