科技公司 Kneron 今年將推出人工智慧晶片
概述
最近，人工智慧邊緣運算公司 Kneron 宣布將於今年年底推出其新的神經處理單元（NPU）晶片。這款被稱為 KL730 的 NPU 晶片將使大型語言模型（LLM）執行更便宜，因為它是專為機器學習和人工智慧應用而設計的處理器。相較於以往的處理器，KL730 是 Kneron 的下一代產品。在 2021 年，該公司推出了 KL530 晶片，該晶片支援了一些生成式人工智慧模型的變形器模型。
挑戰與競爭
相較於其他公司，Kneron 的 NPU 晶片具備更高的能效。Kneron 聲稱，與以前的晶片相比，KL730 的能效提高了三到四倍，基本計算能力從每秒 0.35 兆次運算起。此外這款新的晶片還可以使使用者在完全離線的情況下執行 LLM，無需存取到雲端提供商。同時 Kneron 也強調新晶片可以更安全地處理資料。
然而當前市場上最受歡迎的人工智慧晶片是 Nvidia 的 H100 Tensor Core GPU 晶片。然而由於需求不斷增長，H100 的價格不斷飆升，每個晶片的售價已經接近 40,000 美元。儘管 GPU 晶片具有龐大的算力，但要執行一個大型語言模型通常需要多個 H100 晶片，因此使用者必須“分割”模型才能執行。
除了 Nvidia，AMD 也計劃在今年第四季度推出自己的人工智慧晶片。可以預見，隨著越來越多的競爭將進入市場，AI 晶片的效能將會劇增。
影響與展望
人工智慧技術的迅猛發展意味著對高效處理器的需求越來越大。在這個競爭激烈的市場中，Kneron 的 KL730 晶片將成為一個值得關注的選擇。它勢必提供了一個更便宜、更節能的選項，尤其適用於需要執行大型語言模型的應用場景。
然而相較於像 Nvidia 和 AMD 這樣的大型公司，Kneron 仍然面臨著巨大的競爭壓力。與龐大的市場份額相比，小型公司需要更多地透過技術創新和產品最佳化來獲得競爭優勢。在未來，Kneron 需要繼續努力提高自己的技術水平，爭取在這個競爭激烈的市場上立足。
結論
Kneron 宣布將於今年年底推出 KL730 NPU 晶片，這款晶片將為執行大型語言模型的應用提供更便宜和節能的選項。然而 Kneron 面臨著來自 Nvidia 和 AMD 等大型公司的激烈競爭，需要透過技術創新和產品最佳化來獲得競爭優勢。
延伸閱讀
- 本週人工智慧大事記：OpenAI 轉向非安全應用
- AI 蓬勃發展，馬斯克對抗機械革命
- OpenAI 成立團隊控制「超智慧」AI，卻任憑其枯萎——訊息來源指出
- 開放 AI 與 Reddit 資料簽署合約，訓練人工智慧
- 智慧錢包 Kudos 獲得 1000 萬美元投資，研發 AI 功能挑選最佳信用卡
- YouTube TV 隨選多畫面功能現已在 Android 手機和平板上推出
- 索尼音樂警告科技公司避免未經授權使用其內容訓練人工智慧
- 微軟將於下週在 Azure 上推出定製的鈷晶片
- Strava 啟用人工智慧防篡改排行榜，推出「家庭」計畫、深色模式等
- 參議院研究建議：每年至少撥款 320 億美元用於人工智慧計劃
