市場觀察

天幕 AI 獲得 1 億美元投資,擴充套件光子織物技術平臺

天幕 AI 宣布成功完成 2B 融資,為光子織物技術平臺籌集了 1 億美元引言 Celestial AI(天幕 AI)是一家光纖互連技術開發商,最近宣布成功完成了 2B 融資,為其光子織物技術平臺籌集了 1 億美元。該融資由 IAG Capital Partners、Koch Disruptive T .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

天幕 AI 獲得 1 億美元投資,擴充套件光子織物技術平臺

天幕 AI 宣布成功完成 2B 融資,為光子織物技術平臺籌集了 1 億美元

引言

Celestial AI(天幕 AI)是一家光纖互連技術開發商,最近宣布成功完成了 2B 融資,為其光子織物技術平臺籌集了 1 億美元。該融資由 IAG Capital Partners、Koch Disruptive Technologies(KDT)和 Temasek's Xora Innovation Fund 牽頭,包括三星觸媒、Smart Global Holdings(SGH)、保時捷汽車持股公司、The Engine Fund、ImecXpand、M Ventures 和 Tyche Partners 等投資者參與。 根據天幕 AI 的說法,其光子織物平臺在光纖存取效能方面取得了重大突破,超越了現有技術。該公司從種子融資到 2B 融資總共籌集了 1.65 億美元。光子織物技術旨在解決人工智慧領域中的"記憶壁"難題,並推動 AI 商業模型和 AI 技術的發展。

挑戰:"記憶壁"和電氣互連的約束

當前先進的人工智慧模型,例如廣泛使用的 GPT-4 和推薦引擎,需要對記憶體容量和頻寬進行指數級增加。然而由於記憶體擴充套件和計算之間的相互依賴關係,雲服務提供商和超大型資料中心面臨著一個難題,即所謂的"記憶壁"。電氣互連技術的約束,例如頻寬受限、延遲高和功耗高,阻礙了 AI 商業模型和 AI 技術的發展。

光子織物技術的優勢

為了應對這些挑戰,天幕 AI 與超大型網際網路企業、AI 計算和記憶體供應商合作,開發了光子織物技術。這種光纖互連技術專為分離的、百萬億級計算和記憶體叢集設計。天幕 AI 稱其專有的光學計算互連(OCI)技術可以實現可擴充套件的資料中心記憶體的分離,實現加速計算。光子織物技術經過多次測試,成功解決了具有挑戰性的瓶頸問題,提供了大幅提升的頻寬(1.8 Tbps/mm²)和納秒級的延遲。因此該平臺能夠完全實現光纖計算至計算和計算至記憶體的存取。 最近的融資也引起了 Broadcom 的關注,他們正在與天幕 AI 合作開發基於光子織物技術平臺的原型機。預計這些原型機將在未來 18 個月內交付給客戶。

光子互聯的加速運算能力

天幕 AI 的 CEO Dave Lazovsky 在接受 VentureBeat 採訪時表示:"未來的關鍵問題是大語言模型和推薦引擎工作負載的記憶容量、頻寬和資料移動(晶片互聯性)。我們的光子織物技術允許您將光纖直接整合到矽晶片上。其中的一個關鍵優勢是,我們的解決方案能夠將資料傳遞到晶片的任何位置,並進行計算。競爭方案如共封裝光學技術(CPO)不能做到這一點,因為它們只能將資料傳送到晶片的邊緣。" Lazovsky 稱,光子織物技術成功解決了人工智慧領域的記憶和資料傳輸方面的挑戰,提供了顯著提高(每平方毫米 1.8 Tbps)的頻寬和納秒級的延遲。因此該平臺能夠實現光計算至計算和計算至記憶體的完全光學存取。

儲存和處理更大的資料集

天幕 AI 表示他們的光子織物技術可以將資料直接從矽晶片的任何位置傳輸到計算點。該公司表示光子織物技術的封裝頻寬為 1.8 Tbps/mm²,是共封裝光學技術的 25 倍。此外透過將資料直接傳遞到計算點,光子織物技術實現了 10 倍更低的延遲。天幕 AI 旨在簡化大語言模型(如 GPT-4)、PaLM 和深度學習推薦模型(DLRM)等 LLM 的企業計算。Lazovsky 解釋說,由於 AI 處理器(GPU、ASIC)的高頻寬記憶體有限(32GB 至 128GB),企業必須存取數百至數千個處理器來處理這些模型。然而這種方法降低了系統效率並增加了成本。他補充說:"透過提高每個處理器的可實現記憶體容量和高頻寬,光子織物技術可以將更多的資料傳輸給每個處理器,從而降低了所需的處理器數量。快速的晶片互聯使存取的處理器可以更快地處理模型,提高了吞吐量同時降低成本。"

編者評論和建議

推動 AI 技術進步的發展方向

隨著人工智慧領域的持續發展,記憶容量和頻寬的增加變得至關重要。天幕 AI 的光子織物技術透過解決"記憶壁"難題,提供了顯著提高的頻寬和低延遲,促進了人工智慧模型和應用的進一步發展。 光子織物技術的成功融資和與 Broadcom 的合作為天幕 AI 帶來了更多的機遇和優勢。透過擴大工程、銷售和技術銷售團隊,天幕 AI 將加速光子織物技術平臺的產品化和商業化程式。他們的目標是降低企業的資本支出,提高現有基礎設施的效率,並為大規模模型和應用程式的採用銳化道路開闢。

擴大 AI 應用的中小企業機會

天幕 AI 的光子織物技術可以降低大型模型的成本和資料中心基礎設施的消耗,這將為中小企業帶來更多的機會。更低的成本和更高的效率將推動 AI 應用的擴大,從而為企業和應用帶來更多的價值。 中小企業應該關注天幕 AI 的發展,進行克服技術和資金挑戰的策略規劃。他們可以尋找與天幕 AI 合作的機會,以更好地應用光子織物技術來改進他們的業務和產品。

結論

天幕 AI 的光子織物技術平臺為克服人工智慧領域的"記憶壁"難題提供理解決方案。透過提供更高的頻寬和更快的存取,光子織物技術改善了 AI 模型和應用的效能,促進了資料傳輸和處理的發展。未來,天幕 AI 將進一步加固其光子織物技術平臺的研發和商業化,同時尋求與合作夥伴的合作,打破記憶容量和頻寬的約束,推動 AI 科技的發展。
TechInnovation-天幕 AI,投資,光子織物技術,平臺,擴充套件

延伸閱讀

程宇肖

程宇肖

Reporter

大家好!我是程宇肖,我對於科技的發展和應用有著濃厚的興趣,並致力於將最新的科技趨勢和創新帶給大家。科技領域的變化速度驚人,每天都有令人興奮的新發現和突破。作為一名部落格作者,我將帶領大家深入探索科技的奧秘和應用的無限可能。