介紹
在資料時代，我們對於所有我們產生和消耗的資料的現實成本很少討論。我們對於儲存資料的術語並沒有幫助——「雲」聽起來虛幻而超現實，普通使用者與之互動設計得快速、簡單、無縫和幾乎無形。我們心中的形象通常是在我們周圍的虛擬空間中飄動的一串零和一，我們只能透過手機裝置觸碰螢幕和計算機鍵盤上的玻璃和金屬層來辨認和操作它們，就像柏拉圖的「洞穴」中牆壁上的閃爍影子一樣。但當然「雲」背後是非常真實、有形的代價：執行儲存資料和應用程式所需的能源以及由此產生的溫室氣體。大型科技公司（如 Google、Meta、蘋果和亞馬遜）使用的「超大規模」資料中心，每年平均耗電量為 20 到 100 兆瓦，足夠供應高達 37,000 個家庭的用電量。儘管科技公司自豪地宣揚所投資的太陽能、風能、水能和其他可再生能源來供電資料中心，但事實上資料中心與世界上大多數其他地方一樣，仍然依賴化石燃料。資料中心的能源消耗問題
隨著資料中心的能源需求增加，預測顯示到 2030 年，資料中心將佔全球總電力消耗量的 3%至 4%。公司必須尋找替代方案。其中一個出現的方向是增加對邊緣運算的投資——也就是說，不在某個大型專用資料中心部署小型計算機、感測器和伺服器，而是在場地上，例如工廠和零售商店的地板上進行工作和實際交易的地方。與此同時企業對生成式人工智慧的興趣突然激增，這增加了對圖形處理單元（GPU）和儲存訓練大型語言模型和其他基礎模型所需的大量資料的需求。在某種程度上，這對於資料庫和資料中心的能源消耗來說是一個不利趨勢，因為這將成為向低功耗邊緣裝置轉變的一個對抗力量。或者，事實真的是這樣嗎？AI 在邊緣裝置上的優勢
一些公司已開始提供「AI 在邊緣」計算和軟體解決方案，希望為組織提供在現場執行 AI 應用程式所需的技術，從而減輕對雲的能源需求，降低整體能源需求和排放量。邊緣運算的吸引力在於它能夠減少在網路上傳輸到中央資料中心進行處理的資料量，從而降低消耗量。此外大多數邊緣裝置的功率遠低於資料中心或中央計算的對應裝置。本地化處理方法也意味著資料在生成或需要的地方更接近地處理，減少延遲並節省能源。邊緣運算的過渡不僅僅是一個技術轉變；它是邁向更可持續、更節能的計算景觀的重要一步。AI 在邊緣裝置上的應用
一家名為 SiMa.ai 的初創企業在邊緣裝置上執行 AI 應用程式方面取得了突破。他們開發了自己的拖放式、無程式碼 AI 應用程式軟體和 AI 邊緣裝置晶片。這些晶片由領先供應商臺積電（TMSC）根據規格生產。透過他們的平臺 Palette Edgematic，企業可以快速且輕鬆地在邊緣裝置上構建和部署 AI 應用程式。此外 SiMa.ai 已經向美國軍方證實了他們的價值，他們展示了一個在無人機上的邊緣部署，能夠將影片捕獲和分析的速度從每秒 3 幀提升到每秒 60 幀。SiMa.ai 的 CEO 克裏希納·蘭加薩耶在給 VentureBeat 的電子郵件中寫道：“AI 在邊緣將透過提高效率、實現實時決策和促進創新，徹底改變企業。”他指出，他們特意設計並超越了雲端 AI 和機器學習的效能，以應對邊緣的功耗約束。 另一家追求在邊緣運算上減少功耗需求，同時利用人工智慧分析能力的公司是聯想。聯想最近推出的 TruScale for Edge and AI 服務提供了新的硬體經驗，將其應用於新的形式——ThinkEdge SE455 V3 伺服器，配備 AMD 的 EPYC 8004 系列處理器，設計成可以在零售店、雜貨店，甚至是大西洋中的商業漁船的後勤辦公室安靜執行。聯想還透過其新的 TruScale for Edge and AI 訂閱 SaaS 提供軟體，包括 150 多個 AI 解決方案。聯想的 HPC 和 AI 總經理斯科特·提斯表示：“智慧手機、平板電腦、膝上型電腦、攝像頭和感測器的普及將在未來幾年內使全球的資料翻倍，這使邊緣計算或遠端位置對於所有企業實現 AI 的承諾至關重要。”根據聯想的估計，“75%的計算”，即執行應用程式所需的硬體/軟體混合，都有望向邊緣轉移。聯想的目標是將 AI 帶到資料，透過下一代從邊緣到雲的解決方案。 Splunk 是一家企業資料軟體公司，最近被思科以驚人的 280 億美元收購。Splunk 將「厚邊緣」和「薄邊緣」區分開來，並幫助客戶區分這兩種計算類別，並確保哪種適合自己。「厚邊緣」是指 Lenovo 在本文中提到的那種計算硬體/軟體解決方案，即在資料被收集的地方或附近進行處理和分析。「薄邊緣」是指安裝了更小、功率較低的感測器和計算硬體來收集資料，但只在收集點執行最低程度的操作，並將大部分處理能力轉移到雲端。Splunk 在今年 7 月推出了名為 Edge Hub 的邊緣計算終端，專為這種部署而設計。Splunk 的 AI 負責人郝陽在給 VentureBeat 提供的電子郵件中表示：“在站點提供的計算能力通常足以執行幾項 Splunk 的 AI 產品，因此將 Splunk Enterprise On-Premise 稱為‘厚邊緣’是常見的。”他還說：“Splunk 也是在‘薄邊緣’上投資 AI 的領先者，我們的新產品 Splunk Edge Hub 就是為了這個目的。這允許在需要更緊密資源執行的用例上應用 AI 模型。”無論哪種情況，它們都為企業降低了資料收集和處理的能源消耗提供了機會，但顯然，從結構和架構上看，“厚邊緣”提供了更多的節能潛力。AI 在邊緣裝置上的未來和對能源效率的意義
儘管存在法規的不確保性和創意人士和倡導者的強烈反對，企業採用人工智慧的趨勢看起來並沒有放緩的跡象。這將促使更多公司執行功耗大的人工智慧模型，這可能會顯著增加企業的能源消耗。然而透過研究和實施在適當的地方和方式上合乎邏輯的邊緣解決方案，從有經驗的供應商那裡獲得，企業可以在利用人工智慧的同時減少其碳足跡，以盡可能高效地使用能源來驅動其新的人工智慧驅動操作。這些 AI 部署甚至可以透過分析和建議企業進一步減少裝置的能源消耗，利用在現場收集的資料。有很多供應商正在兜售產品，但顯然，在邊緣裝置上放置人工智慧是企業降低能源消耗的一條有益的道路，同時也能減輕超大規模資料中心的負擔。 在總結中，企業可以採取一系列的措施來確保在利用人工智慧的同時保持能源效益。建立可持續和節能的計算景觀是一個需要仔細思考的問題，但透過投資邊緣運算，利用邊緣裝置上的 AI 應用程式，企業可以實現成功並減少能源消耗。同時企業也應該進一步研究和發展硬體、軟體和算法，以在邊緣裝置上進行最佳化和適應，從而實現更高效的能源利用。最重要的是，企業應該重視人的角色，確保人始終處於決策的位置，並將 AI 作為提供建議的工具，而不是讓 AI 完全接管。這種「人在回路中」的哲學對於邊緣裝置尤為重要，因為 AI 應用程式更直接地影響工作場所。Energyefficiency-人工智慧,邊緣運算,資料中心,能源危機,解決方案
延伸閱讀
- 在 AI 領域的女性：Tara Chklovski 正在教導下一代的 AI 創新者
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- 蘋果 AI 計劃揭祕：從財報中學到的三件事
- 特斯拉 CEO 為人工智慧新創公司籌集 60 億美元，TikTok 是否在逃避蘋果的傭金？
- Allozymes 以加速酶學應用於資料和人工智慧，籌集 1500 萬美元
- 在 TC 的 Techstars 調查內部以及人工智慧如何加速殘障科技
- Microsoft 禁止美國警察局使用企業人工智慧工具
- 你的 AI 原生新創公司並非一般的 SaaS 公司
- Airbnb 釋出團體訂房功能，並整合人工智慧以提升客戶服務
- 歐洲殘障科技新創如何利用人工智慧？
