Palo-Alto 公司 SambaNova Systems 揭示新的 AI 晶片,SN40L
自定 AI 模型,SambaNova Suite,提供全套解決方案
Palo-Alto 的 SambaNova Systems 公司推出了一款新的 AI 晶片,SN40L,該晶片將為其全套大型語言模型(LLM)平臺 SambaNova Suite 提供動力。SambaNova Suite 幫助企業從晶片到模型,構建和部署定制的生成式 AI 模型。SambaNova Systems 的聯合創始人兼執行長 Rodrigo Liang 告訴 VentureBeat,SambaNova 在堆疊方面走得比 Nvidia 更遠,幫助企業實際上正確地訓練他們的模型。他解釋說: "很多人對我們的基礎設施感到熱情,但他們遇到的問題是他們沒有專業知識,所以他們會把模型交給 OpenAI 等其他公司來構建。"人工智慧的"Linux 時刻"
因此 SambaNova 認為這是人工智慧的"Linux 時刻",即開源人工智慧模型將是最大的贏家。因此除了預訓練的基礎模型外,SambaNova Suite 還提供了一個精心挑選的用於企業最佳化的開源生成式 AI 模型集合,可以在本地或雲端部署。Liang 解釋說:"我們針對企業進行了所有的基礎模型清理工作"以及硬體最佳化,他表示大多數客戶不想處理這些事情。他說:"他們不想要尋找 GPU。他們不想要弄清楚 GPU 的結構。"SambaNova 不僅僅只是晶片開發
儘管 SambaNova 不僅僅只是停留在晶片開發上,而是全方位推進軟體堆疊,但 Liang 堅稱:"在晶片對晶片的基礎上,我們勝過 Nvidia。"根據新聞稿,SambaNova 的 SN40L 可以提供 5 萬億個引數的模型,單個系統節點可以實現 256k+序列長度。它說,這"實現了更高質量的模型,具有更快的推理和訓練速度,並降低總擁有成本。"此外"更大的記憶體實現了從 LLM 中實現真正的多模態功能,使公司可以輕鬆搜尋、分析和生成這些模態的資料。"SambaNova Suite 的新模型和功能
然而該公司還宣布了 SambaNova Suite 中的幾項新模型和功能: - Llama2 變體(7B,70B):開源語言模型的最新技術,使客戶能夠適應、擴充套件和執行最好的 LLM 模型,同時保留這些模型的所有權。 - BLOOM 176B:開源社區中最準確的多語言基礎模型,使客戶能夠用各種語言解決更多問題,同時還能擴充套件模型以支援新的低資源語言。 - 用於基於向量檢索增強生成的嵌入模型,使客戶能夠將其檔案嵌入為向量嵌入,在問答過程中檢索這些嵌入,而不會導致幻覺。然後,LLM 將分析、提取或總結訊息。 - 世界領先的自動語音識別模型,用於轉錄和分析語音資料。 - 其他多模態和長序列長度功能。結論
SambaNova Systems 的新 AI 晶片 SN40L 和全套平臺 SambaNova Suite 將為企業提供更高效、便捷的 AI 模型訓練和部署解決方案。該公司的努力不僅限於晶片開發,而是提供從基礎模型到硬體最佳化的完整解決方案。此外它還提供了一系列開源生成式 AI 模型,以滿足企業各種需求。這一發展標誌著人工智慧行業的進一步發展,同時也提供了一個開放而多樣化的 AI 生態系統,將有助於推動 AI 技術的應用和創新。關鍵詞:
SambaNova、AI 晶片、AI 平臺、晶片技術、人工智慧、深度學習、機器學習ArtificialIntelligence-sambanova,AI 晶片,AI 平臺,晶片技術,人工智慧,深度學習,機器學習
延伸閱讀
- 歐洲殘障科技新創如何利用人工智慧?
- SafeBase 使用人工智慧自動化軟體安全審查
- AI 新創點子解決創辦人個資外洩的痛 - 這位創辦人深受影響後的啟發
- Google Gemini:全新生成式人工智慧平臺的全方位解析
- 美國國家標準技術研究所推出新平臺評估生成式人工智慧
- GitHub 推出 Copilot Workspace:AI 驅動的軟體工程空間
- RPA 供應商如何在 AI 代理人世界保持競爭力
- 元 AI 測試:未能彰顯自身價值,但免費就是免費
- Google 推出新功能“口語練習”,利用人工智慧幫助使用者提高英文能力
- 科技巨頭 xAI 競爭開放人工智慧,吸金 60 億美元。推動社交網路 X 成為股東