市場觀察

戴爾和 Meta 合作,將 Llama 2 開源 AI 引入企業使用者的本地端

戴爾與 Meta 合作推出 LLama 2 AI 模型,為企業使用者帶來優勢背景 Meta 所開發的開源 Llama 2 大型語言模型(LLM)在短時間內已經獲得了廣泛的支援,包括 Microsoft Azure、Amazon Web Services 和 Google Cloud 等多家雲服務供應商 .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

戴爾和 Meta 合作,將 Llama 2 開源 AI 引入企業使用者的本地端

戴爾Meta 合作推出 LLama 2 AI 模型,為企業使用者帶來優勢

背景

Meta 所開發的開源 Llama 2 大型語言模型(LLM)在短時間內已經獲得了廣泛的支援,包括 Microsoft Azure、Amazon Web Services 和 Google Cloud 等多家雲服務供應商。而如今這一 Llama 2 模型迎來了一個重要的企業合作夥伴——戴爾技術公司。戴爾今天宣布,將在其 Dell Validated Design for Generative AI 硬體及其本地端部署的生成 AI 解決方案中增加對 Llama 2 模型的支援。這將使 Llama 2 這一開源模型能夠在企業使用者的本地端部署中得到應用。

戴爾對 Llama 2 的支援

戴爾不僅為其企業使用者提供了 Llama 2 的支援,還在自己的業務中使用了該模型。對於 Meta 來說戴爾的合作提供了更多學習企業如何使用 Llama 的機會,這將有助於進一步擴充套件整個 Llama 功能堆疊的能力。戴爾AI 戰略高級副總裁 Matt Baker 表示支援 Llama 2 將有助於實現戴爾AI 帶給企業資料的願景。

戴爾不僅僅支援 Llama 2,還在其內部使用該模型。Baker 提到,戴爾既用於實驗性的應用程式開發,也用於實際的生產部署。戴爾當今主要的使用案例之一是在其知識庫文章中支援檢索增強產生(RAG)。Llama 2 有助於為戴爾提供一種聊天機器人風格的介面,以更輕鬆地獲取相關訊息。

戴爾與 Llama 2 的雙方合作

近 30 天,Llama 2 開源技術下載量已達到約 3000 萬次,這表明該技術在開源社區中取得了非常成功的成果。Meta 的生成 AI 開源負責人 Joe Spisak 表示對於 Meta 來說 Llama 2 不僅僅是一個 LLM 模型,而是整個生成 AI 堆疊的核心。該堆疊還包括 Meta 開發的開源 PyTorch 機器學習框架。

Spisak 表示 Llama 2 的採用來自於 AI 生態系統中的各個參與者。他指出,像 Google Cloud、Amazon Web Services(AWS)和 Microsoft Azure 這樣的雲服務供應商正在使用 Llama 作為 LLM 基準測試的平臺。硬體供應商也是重要的合作夥伴,Meta 正在與像 Qualcomm 這樣的公司合作,將 Llama 應用到新裝置上。儘管 Llama 在雲端中得到了廣泛應用,Spisak 強調了能夠在本地部署的合作關係的重要性。他表示有了開源的 Llama,組織在部署時有多種選擇,這在考慮資料隱私時尤為重要。Spisak 表示:“當然你可以使用公共雲,但這裡的真正價值在於能夠在這些環境中執行,通常情況下你不希望將資料傳回到雲端,或者你希望在本地執行,這取決於私人資料的敏感性。這就是這些開源模型的真正優勢所在,而 Llama 2 確實能夠在任何你想執行的地方執行。”與戴爾合作還將幫助 Llama 開發社區更好地理解和滿足企業需求,進一步完善其部署能力。

結語

戴爾Meta 合作將開源 Llama 2 模型帶到企業使用者的本地端部署,為企業使用者帶來了更多選擇。透過這一合作,戴爾將為企業客戶提供部署 Llama 2 所需的硬體指南,並幫助他們構建從中受益的應用程式。同時透過戴爾的支援,Llama 的開發社區將更好地理解和適應企業需求。戴爾的合作成果將為 Llama 的未來發展提供重要的經驗和反饋,並有助於打造一個更安全、更開放的生態系統。

儘管戴爾在生成 AI 硬體和專業服務方面將實現營利,但 Baker 指出,戴爾不直接對 Llama 2 進行商業化,該模型作為開源技術可以自由使用。他表示:“事實上我們並沒有以任何方式實現對 Llama 2 的商業化,我們只是認為這是一個真正偉大的能力,可以提供給我們的客戶,我們希望簡化我們的客戶使用它的方式。”

AI 技術-戴爾,Meta,Llama2,開源,AI,企業使用者,本地端
程宇肖

程宇肖

Reporter

大家好!我是程宇肖,我對於科技的發展和應用有著濃厚的興趣,並致力於將最新的科技趨勢和創新帶給大家。科技領域的變化速度驚人,每天都有令人興奮的新發現和突破。作為一名部落格作者,我將帶領大家深入探索科技的奧秘和應用的無限可能。