產品管理

SambaNova 發布新的 AI 晶片,提供全套 AI 平臺動力

Palo-Alto 公司 SambaNova Systems 揭示新的 AI 晶片,SN40L 自定 AI 模型,SambaNova Suite,提供全套解決方案 Palo-Alto 的 SambaNova Systems 公司推出了一款新的 AI 晶片,SN40L,該晶片將為其全套大型語言模型(LLM .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

SambaNova 發布新的 AI 晶片,提供全套 AI 平臺動力

Palo-Alto 公司 SambaNova Systems 揭示新的 AI 晶片,SN40L

自定 AI 模型,SambaNova Suite,提供全套解決方案

Palo-Alto 的 SambaNova Systems 公司推出了一款新的 AI 晶片,SN40L,該晶片將為其全套大型語言模型(LLM)平臺 SambaNova Suite 提供動力。SambaNova Suite 幫助企業從晶片到模型,構建和部署定制的生成式 AI 模型。SambaNova Systems 的聯合創始人兼執行長 Rodrigo Liang 告訴 VentureBeat,SambaNova 在堆疊方面走得比 Nvidia 更遠,幫助企業實際上正確地訓練他們的模型。他解釋說: "很多人對我們的基礎設施感到熱情,但他們遇到的問題是他們沒有專業知識,所以他們會把模型交給 OpenAI 等其他公司來構建。"

人工智慧的"Linux 時刻"

因此 SambaNova 認為這是人工智慧的"Linux 時刻",即開源人工智慧模型將是最大的贏家。因此除了預訓練的基礎模型外,SambaNova Suite 還提供了一個精心挑選的用於企業最佳化的開源生成式 AI 模型集合,可以在本地或雲端部署。Liang 解釋說:"我們針對企業進行了所有的基礎模型清理工作"以及硬體最佳化,他表示大多數客戶不想處理這些事情。他說:"他們不想要尋找 GPU。他們不想要弄清楚 GPU 的結構。"

SambaNova 不僅僅只是晶片開發

儘管 SambaNova 不僅僅只是停留在晶片開發上,而是全方位推進軟體堆疊,但 Liang 堅稱:"在晶片對晶片的基礎上,我們勝過 Nvidia。"根據新聞稿,SambaNova 的 SN40L 可以提供 5 萬億個引數的模型,單個系統節點可以實現 256k+序列長度。它說,這"實現了更高質量的模型,具有更快的推理和訓練速度,並降低總擁有成本。"此外"更大的記憶體實現了從 LLM 中實現真正的多模態功能,使公司可以輕鬆搜尋、分析和生成這些模態的資料。"

SambaNova Suite 的新模型和功能

然而該公司還宣布了 SambaNova Suite 中的幾項新模型和功能: - Llama2 變體(7B,70B):開源語言模型的最新技術,使客戶能夠適應、擴充套件和執行最好的 LLM 模型,同時保留這些模型的所有權。 - BLOOM 176B:開源社區中最準確的多語言基礎模型,使客戶能夠用各種語言解決更多問題,同時還能擴充套件模型以支援新的低資源語言。 - 用於基於向量檢索增強生成的嵌入模型,使客戶能夠將其檔案嵌入為向量嵌入,在問答過程中檢索這些嵌入,而不會導致幻覺。然後,LLM 將分析、提取或總結訊息。 - 世界領先的自動語音識別模型,用於轉錄和分析語音資料。 - 其他多模態和長序列長度功能。

結論

SambaNova Systems 的新 AI 晶片 SN40L 和全套平臺 SambaNova Suite 將為企業提供更高效、便捷的 AI 模型訓練和部署解決方案。該公司的努力不僅限於晶片開發,而是提供從基礎模型到硬體最佳化的完整解決方案。此外它還提供了一系列開源生成式 AI 模型,以滿足企業各種需求。這一發展標誌著人工智慧行業的進一步發展,同時也提供了一個開放而多樣化的 AI 生態系統,將有助於推動 AI 技術的應用和創新。

關鍵詞:

SambaNova、AI 晶片、AI 平臺、晶片技術人工智慧深度學習機器學習
ArtificialIntelligence-sambanova,AI 晶片,AI 平臺,晶片技術,人工智慧,深度學習,機器學習
程宇肖

程宇肖

Reporter

大家好!我是程宇肖,我對於科技的發展和應用有著濃厚的興趣,並致力於將最新的科技趨勢和創新帶給大家。科技領域的變化速度驚人,每天都有令人興奮的新發現和突破。作為一名部落格作者,我將帶領大家深入探索科技的奧秘和應用的無限可能。