
計算的不可避免轉型:光子計算系統的應用
2023 年 9 月 11 日,《科學 X》編輯文章進行了這樣的一個評論,稱麻省理工學院的研究人員推出了一種名為 Lightning 的重組光電智慧網路卡(SmartNIC),能以每秒 100 億位元的速度執行即時深度神經網路的推斷任務。
隨著科技的發展,計算正在進入一個轉折點。摩爾定律預測,每年電子晶片上的電晶體數量將翻倍,但由於將更多電晶體放在價格合理的微晶片上的物理約束,摩爾定律正在放慢。隨著對能夠支援越來越複雜的人工智慧模型的高效能計算機的需求增加,計算機效能的提升也在放緩。這個不便使工程師開始探索擴充套件計算能力的新方法,但解決方案仍然不明確。
光子計算:增強計算能力的潛在解決方案
光子計算是應對機器學習模型的日益增長的計算需求的一個潛在解決方案。與使用電晶體和電線的傳統系統不同,這些系統利用光子(微觀的光粒子)在模擬領域中執行計算操作。在這些系統中,鐳射器產生這些微小的能量束,像科幻電影中以光速飛行的太空船一樣快速移動。當將光子計算核心新增到可程式設計加速器(如網路介面卡)中時,所得的硬體可以插入普通計算機以實現加速。
麻省理工學院的研究人員現在利用光子學的潛力,在機器學習中展示了光子學的計算能力。他們的光電重組智慧網路卡 "Lightning" 幫助深度神經網路推斷任務(如影象識別和語言生成)實時完成。這個原型的獨特設計實現了令人印象深刻的速度,創造了首個能夠實時提供機器學習推斷請求的光子計算系統。
然而實現光子計算裝置的一個主要挑戰是它們是被動的,即缺乏控制資料流的記憶體或指令,不像它們的電子對應物。過去的光子計算系統面臨這個瓶頸,但 "Lightning" 消除了這個障礙,以確保電子和光子元件之間的資料移動順利進行。
光子和電子的融合
麻省理工學院的研究人員透過將光子速度和電腦的資料流控制能力相結合,實現了這一突破。在 "Lightning" 之前,光子和電子計算方案是獨立執行的,彼此不同的語言無法互通。該團隊的混合系統使用可重組的計數行動抽象來跟蹤資料通路上所需的計算操作,將光子和電子元件存取在一起。這種程式設計抽象充當兩者之間的統一語言,控制資料流的存取。電子攜帶的訊息被轉化為以光子形式的光,並以光的速度協助完成推斷任務,然後再將光子轉換回電子形式,將訊息傳遞給計算機。透過無縫地將光子和電子相連,這種新型計數行動抽象實現了 "Lightning" 的快速實時計算頻率。
以往的嘗試使用的是一種停停走走的方法,意味著資料會被一個速度較慢的控制軟體所妨礙,該軟體負責做出所有關於資料移動的決策。麻省理工學院的 Ghobadi 教授和她的團隊同事是首次確保並解決這個問題的人。他們的計數行動程式設計抽象充當了 "Lightning" 中的肌肉記憶。它在執行時無縫地驅動電子和光子。
環保的解決方案
當前完成基於推斷的機器學習任務(如 ChatGPT 和 BERT)的機器學習服務需要大量的計算資源。它們不僅昂貴(一些估計顯示 ChatGPT 每月需要 300 萬美元執行),而且對環境有害,可能排放的二氧化碳超過平均人的兩倍。光子比電子在電線中移動得更快,同時產生的熱量較少,使其可以以更高的頻率進行計算,同時更節能。麻省理工學院的研究人員的比較發現,相對於標準的圖形處理單元、資料處理單元、SmartNIC 和其他加速器,"Lightning" 在完成推斷請求時更節能。
作為一個更具成本效益、更快速的選擇,"Lightning" 為資料中心提供了一個潛在的升級方案,以減少其機器學習模型的碳排放量,同時促進使用者的推斷響應時間。
總結和建議
隨著科技發展的推動,計算正在經歷革命性的轉變。光子計算系統的應用為應對機器學習模型的日益增長的計算需求提供了一個潛在解決方案。光子計算利用光子進行計算操作,並透過結合光子和電子之間的資料流控制能力,實現了更快、更節能的計算。麻省理工學院的研究人員的專案 "Lightning" 是第一個能夠實時執行機器學習推斷請求的光子計算系統,它將為資料中心提供節能和高效的選擇。
建議在未來的科技發展中,應該繼續關注光子計算技術的進展。這項革新性技術有潛力改變機器學習和計算的方式,並且將持續產生積極的影響。同時我們應該致力於提高計算的能源效率,以減少對環境的影響。"Lightning" 的成功展示了減少計算能源消耗的潛力,並為未來的計算系統發展提供了一個重要的參考。