Google 開源工具支援 AI 模型開發
Google 開源工具
Google 最近在開發人員大會 Cloud Next 上推出了一系列針對支援生成式人工智慧（AI）專案和基礎設施的開源工具。這些工具旨在支援擴散模型的實現以及執行生成式 AI 模型。除了 MaxDiffusion，Google 還推出了 Jetstream 和 MaxText 等新工具，使得支援 AI 模型的成本效益提高。
MaxDiffusion
MaxDiffusion 實際上是 Google 在二月默默推出的一系列各種擴散模型的參考實現。這些模型執行在 XLA 裝置上，而“XLA”代表加速線性代數，這是一種最佳化和加快特定型別 AI 工作負載的技術。Google 自己的張量處理單元（TPU）和最近的 Nvidia GPU 均為 XLA 裝置。
Jetstream
Jetstream 是一種新引擎，可用於執行生成式 AI 模型，特別針對文字生成模型，當前僅支援 TPU，但據稱未來將支援 GPU 相容性。Google 宣稱 Jetstream 對於 Gemma 7B 和 Meta's Llama 2 等模型可實現高達 3 倍的“效能每美元”的提升。
MaxText
MaxText 現在新增支援 Gemma 7B、OpenAI 的 GPT-3、Llama 2 和 AI 新創公司 Mistral 的模型。Google 表示這些模型可以根據開發者的需要進行定制和微調。此外 Google 還聯合 AI 新創公司 Hugging Face 開發了 Optimum TPU，提供工具以將特定 AI 工作負載執行在 TPU 上。
疑慮和期望
雖然這些新工具帶來了一些令人振奮的最佳化和效能提升，但尚存一些疑慮。例如，Google 宣稱 Jetstream 實現了 3 倍的效能提升，但卻未提供明確的基準和效能定義。另外 Optimum TPU 當前僅支援執行 Gemmma 7B 模型，並且尚不支援在 TPU 上訓練生成式模型，僅能執行。
結語
這些開源工具的推出無疑對 AI 模型開發和效能提升擁有重要意義，但開發人員應該更為謹慎地評估其效能和適用性。未來，我們期待這些工具的進一步改進，並希望 Google 能夠提供更多關於效能和效能提升的具體訊息。
延伸閱讀
- Google 推出新功能“口語練習”，利用人工智慧幫助使用者提高英文能力
- Google 支援的 Glance 在美國試點推出 Android 鎖定屏平臺
- Google 解僱 28 名員工，因為他們爭議性的 Project Nimbus 合同與以色列引發的靜坐抗議
- 印度加快步伐抑制 PhonePe 和 Google 在手機支付領域的壟斷
- Google 雲端大會：Google 全力開發生成式人工智慧
- Google 首次宣布 Axion，其自家定制 Arm 架構資料中心處理器
- Google 計劃透過兩款新的 10 美元 Workspace 附加元件來實現 AI 的盈利化
- Google 將生成式人工智慧技術注入其雲安全工具
- Google 的 Gemini Pro 1.5 進入 Vertex AI 的公開預覽
- Google 的新科技 Gemini 進入資料庫領域
