AIGC

MLCommons 欲為筆記型電腦、桌上型電腦及工作站建立人工智慧指標

MLCommons 推動為筆記型電腦、桌上型電腦和工作站建立人工智慧基準人工智慧在裝置上的興起隨著人工智慧愈發從雲端轉向裝置端,人們開始關心一個問題:究竟新款筆記型電腦是否能比競爭對手的產品更快地執行生成式人工智慧應用——或者說,桌上型電腦或一體機也一樣。這樣的理解可能會帶來幾秒鐘與幾分鐘之間 .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

MLCommons 欲為筆記型電腦、桌上型電腦及工作站建立人工智慧指標

## MLCommons 推動為筆記型電腦桌上型電腦工作站建立人工智慧基準

人工智慧在裝置上的興起

隨著人工智慧愈發從雲端轉向裝置端,人們開始關心一個問題:究竟新款筆記型電腦是否能比競爭對手的產品更快地執行生成式人工智慧應用——或者說,桌上型電腦或一體機也一樣。這樣的理解可能會帶來幾秒鐘與幾分鐘之間的差距,正如人們所說,時間就是金錢。

MLCommons 和 MLPerf Client

MLCommons 是一個推動多個與人工智慧相關硬體基準的行業團體,他們希望讓人們更方便地比較選購產品,因此推出了針對“使用者端系統”的效能基準。今天MLCommons 宣布成立了一個新的工作小組,MLPerf Client,旨在確立桌上型電腦筆記型電腦和執行 Windows、Linux 和其他作業系統的工作站人工智慧基準。MLCommons 承諾這些基準將“以情景為導向”,聚焦於真實的終端使用者用例,並且“植根於社區的反饋”。

潛在的影響

MLPerf Client 的第一個基準將聚焦於文字生成模型,特別是 Meta 的 Llama 2。Meta 的執行董事 David Kanter 指出,Llama 2 已經納入了 MLCommons 針對資料中心硬體的其他基準套件。實際上 Meta 與高通和微軟合作,為 Windows 最佳化了 Llama 2,這對執行 Windows 的裝置是多多益善。

MLPerf Client 的成員

MLPerf Client 的工作小組成員包括 AMD、Arm、Asus、Dell、Intel、Lenovo、Microsoft、Nvidia 和高通,但值得注意的是沒有蘋果公司。蘋果公司也不是 MLCommons 的成員。Microsoft 的工程總監 Yannis Minadakis 是 MLPerf Client 小組的聯合主席,這使得蘋果公司的缺席不算完全令人意外。

結語和期望

MLPerf Client 所構想的人工智慧基準將不會在蘋果裝置上進行測試,至少在不久的將來是這樣。儘管如此筆者對 MLPerf Client 將會產生的基準和工具非常好奇,無論是否支援 macOS。假如生成式人工智慧在這裡存留下來——當前看來泡沫似乎並未即將破裂——我們或許會看到這些型別的指標在裝置選購決策中扮演越來越重要的角色。

在筆者最理想的情況下,MLPerf Client 的基準將會類似於眾多線上 PC 構建比較工具,給出了關於一臺特定機器的人工智慧效能的暗示。或許它們在未來會擴充套件到涵蓋手機和平板,鑒於高通和 Arm 的參與(兩者在移動裝置生態系統中均有深度投資)。當前來看還言之尚早——但是希望如此。

結論

這一舉措對於消費者來說將提供更多選擇,同時也促進了人工智慧在多種使用者裝置上的發展。然而當然也需要注意到基準對於廠商和使用者之間的影響。這項工作的成果將值得期待。

"Technology"-MLCommons,人工智慧,指標,筆記型電腦,桌上型電腦,工作站

延伸閱讀

江塵

江塵

Reporter

大家好!我是江塵,一名熱愛科技的發展和創新,我一直都保持著濃厚的興趣和追求。在這個瞬息萬變的數位時代,科技已經深入到我們生活的方方面面,影響著我們的工作、學習和娛樂方式。因此,我希望透過我的部落格,與大家分享最新的科技資訊、趨勢和創新應用。