Google 開源工具支援 AI 模型開發
Google 開源工具
Google 最近在開發人員大會 Cloud Next 上推出了一系列針對支援生成式人工智慧(AI)專案和基礎設施的開源工具。這些工具旨在支援擴散模型的實現以及執行生成式 AI 模型。除了 MaxDiffusion,Google 還推出了 Jetstream 和 MaxText 等新工具,使得支援 AI 模型的成本效益提高。
MaxDiffusion
MaxDiffusion 實際上是 Google 在二月默默推出的一系列各種擴散模型的參考實現。這些模型執行在 XLA 裝置上,而“XLA”代表加速線性代數,這是一種最佳化和加快特定型別 AI 工作負載的技術。Google 自己的張量處理單元(TPU)和最近的 Nvidia GPU 均為 XLA 裝置。
Jetstream
Jetstream 是一種新引擎,可用於執行生成式 AI 模型,特別針對文字生成模型,當前僅支援 TPU,但據稱未來將支援 GPU 相容性。Google 宣稱 Jetstream 對於 Gemma 7B 和 Meta's Llama 2 等模型可實現高達 3 倍的“效能每美元”的提升。
MaxText
MaxText 現在新增支援 Gemma 7B、OpenAI 的 GPT-3、Llama 2 和 AI 新創公司 Mistral 的模型。Google 表示這些模型可以根據開發者的需要進行定制和微調。此外 Google 還聯合 AI 新創公司 Hugging Face 開發了 Optimum TPU,提供工具以將特定 AI 工作負載執行在 TPU 上。
疑慮和期望
雖然這些新工具帶來了一些令人振奮的最佳化和效能提升,但尚存一些疑慮。例如,Google 宣稱 Jetstream 實現了 3 倍的效能提升,但卻未提供明確的基準和效能定義。另外 Optimum TPU 當前僅支援執行 Gemmma 7B 模型,並且尚不支援在 TPU 上訓練生成式模型,僅能執行。
結語
這些開源工具的推出無疑對 AI 模型開發和效能提升擁有重要意義,但開發人員應該更為謹慎地評估其效能和適用性。未來,我們期待這些工具的進一步改進,並希望 Google 能夠提供更多關於效能和效能提升的具體訊息。
延伸閱讀
- Netflix 將建立自己的廣告伺服器挑戰 Google 和 Amazon
- Google 仍未修復 Gemini 偏見影像生成器
- Google 在 Android 上新增實時威脅檢測和螢幕分享保護
- Google 掃描通話的人工智慧或增加預設審查,隱私專家發出警告
- Google 推出新的 Private Space 功能,就像是 Android 版的無痕模式
- Google I/O 2024:Google 剛宣布的所有重大訊息
- Google 發布 AI 動態威脅檢測服務,打擊 Android 惡意軟體
- Google 將在桌面版 Chrome 中加入其 Gemini Nano AI 模型
- Google 宣布 Patreon 和 Grammarly 已開始測試 Gemini Nano
- Google 推出新一代 AI 模型 LearnLM,助力教育業界革新