電腦與人工智慧的共同演進
引言
近年來人工智慧（Artificial Intelligence, AI）的快速發展使得計算能力需求不斷增長。為了滿足這些需求，許多研究人員開始將軟體與硬體同時設計，這種方法被稱為共同設計（co-design）。在共同設計中，編譯器（compiler）起到了重要的作用，它們將指令從一種表示形式轉換為另一種表示形式。
共同設計的歷史
人工神經網路（neural networks）自 1950 年代以來經曆了多次興衰，而共同設計則始於 1990 年代，逐步從手動設計轉變為計算機輔助設計，並包含了建模、模擬、最佳化、合成和測試等複雜過程。在 2020 年以後，一種名為 Transformer 的網路模型取得了巨大的成功，其應用 ChatGPT 是一個使用「生成型預訓練 Transformer」建立的對話機器人。當前的 AI 應用，如 ChatGPT，正遇到一個新的效能瓶頸，需要再次進行硬體-軟體共同設計。
當前的問題和未來趨勢
隨著效能要求快速增加，處理器的發展無法跟上步伐，有效的共同設計變得十分關鍵。然而共同設計並沒有一種統一的框架或抽象方式，而且一旦需要多層抽象，效率就會降低。定製特定領域的編譯器需要耗費大量的人力。雖然統一的生態系統正在形成，但分裂的根本原因仍然存在。解決這些問題的方法可能是打造一個模組化、可擴充套件的統一框架。
「夥伴編譯器」的介紹
中國科學院的一組研究人員提出了「夥伴編譯器」（Buddy Compiler）的框架，旨在構建一個可擴充套件和靈活的硬體與軟體共同設計生態系統。這個生態系統包括編譯器框架、編譯器即服務平臺、基準測試框架、特定領域架構框架和共同設計模組等部分。其中後兩個模組仍然在開發中。研究人員預測編譯器技術將繼續發展，並在快速發展且有些分分散的深度學習領域中實現統一。
深度學習共同設計中的編譯器技術
深度學習編譯器的生態系統
為了滿足深度學習的計算需求，出現了兩種主要的編譯器生態系統：「Tensor Virtual Machine」（TVM）和「Multi-Level Intermediate Representation」（MLIR）。這兩個生態系統採用不同的策略，TVM 作為一個端到端的深度學習編譯器，而 MLIR 則作為一個編譯基礎設施。此外針對深度學習工作負載定製的硬體架構主要有兩種型別：流計算架構和計算引擎架構。與這些架構相關的硬體設計工具流程也正在採用新的編譯技術，推動深度學習共同設計的發展和創新。深度學習編譯器技術和硬體編譯技術的結合為深度學習共同設計帶來了新的機遇。
結語
共同演進的重要性
電腦和人工智慧的共同演進具有重要意義。隨著人工智慧的快速發展，對計算能力的需求變得越來越高。共同設計的概念使得軟體和硬體能夠更好地協同工作，以滿足這些需求。編譯器作為共同設計中的關鍵技術之一，可以幫助最佳化深度學習系統的執行效率和能耗。
未來的方向和建議
當前共同設計領域仍存在著一些挑戰和問題，例如缺乏統一的框架和抽象方式以及定製編譯器所需的大量人力。建議在共同設計領域進一步探索模組化、可擴充套件的統一框架，以解決這些問題。此外繼續發展編譯器和硬體編譯技術，並促進深度學習共同設計生態系統的統一和成熟。
關鍵詞：技術發展、演進趨勢、人工智慧、電腦科學
延伸閱讀
- 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
- 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- 探索 DeepSeek：你必須理解的 AI 聊天機器人應用全指南！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
- 未來科技：研究人員揭示如何打造變形機器人，猶如 T-1000 般神奇！
- ElevenLabs 推出全新語音轉文字模型，引領 AI 語音技術的新潮流！
