開源 AI 平臺 Together 挑戰 OpenAI：對開發者的新挑戰
在 Meta 昨天以商業許可證發布 LLaMA 2 的訊息震驚了人們之後，一家名為 Together 的新創公司也在過去幾天宣布了自己的重大訊息。Together 於去年成立，旨在為初創企業和企業開發者建立一個全套的平臺和雲服務，用於構建開源 AI，這也對 OpenAI 構成了挑戰。該公司已經支援了 50 多個頂級開源 AI 模型，現在還將支援 LLaMA 2。Together 的創始人 Vipul Ved Prakash、Ce Zhang、Chris Ré 以及 Percy Liang 在去年創辦了這家位於加州門洛帕克的新創公司。Together 的目標是在“大型科技公司當前領先創新”的市場上，使 AI 模型更加開放和可接觸。
走向開源：企業趨向開放原始碼的原因
Prakash 在接受 VentureBeat 採訪時表示：“開源和封閉系統之間存在明顯的辯論，現在開源生態系統越趨強大。”他解釋說，由於對資料隱私的追求，企業越來越多地轉向開源。現在“越來越多的人使用開源模型，因為開源模型變得更加固大。”他指出，開源 AI 在企業中的採用將會越來越廣泛，這就像作業系統和資料庫等領域的開源一樣。
Together 的新平臺：API 和計算雲服務
上週，Together 公司推出了 Together API 和 Together Compute 兩個雲服務，用於訓練、微調和執行世界領先的開源 AI 模型。Together API 由“高效的分散式訓練系統”提供支援，可以對大型 AI 模型進行微調，為低延遲的推斷提供了最佳化的私有 API 端點。對於希望在自己的資料集上預先訓練模型的 AI/ML 研究團隊，Together Compute 提供了配備高階 GPU 的叢集，並搭配 Together 的分散式訓練系統。這將帶來更大的成本效益。
Prakash 解釋說：“在 AWS 上，一個 A100 GPU 的費用是每小時 4 美元。我們的技術使得我們能夠為使用者提供模型的實例託管服務。例如，在我們的平臺上用 A100 託管 RedPajama 的 70 億引數模型每小時只需 12 美分。”Together 公司能夠做到這一點，部分原因是根據《華爾街日報》上個月報導的，由於加密貨幣挖掘實踐的結束，大量使用過的 GPU 晶片供應過剩。該文章中提到：“在以比特幣為首的第二大加密貨幣以太坊網路結束需要這些晶片之後，有數千萬塊 GPU 晶片供應量。”其中大約 20％ 的晶片可以用於訓練 AI 模型。Together 公司已經租用了數千塊這些 GPU 晶片來幫助推動其新的雲服務。
開源和封閉生態系統的平行發展
雖然 Together 公司在企業領域確實挑戰了 OpenAI 和其他封閉的專有模型公司，但 Prakash 表示他認為開源和封閉生態系統將會平行發展。他說：“我個人認為，封閉模型公司最終將更加應用於應用程式。”他指出了 Character AI 及其在消費者聊天機器人方面的努力。他說：“他們在這方面做得很好，他們的建模工作正在越來越專注於這個方向。”他解釋說，與作業系統和資料庫等其他領域相似，開源 AI 將成為一組更廣泛適用的技術。“我認為，在存在解決方案且合適於許多問題的開源解決方案的情況下，封閉模型很難再收取溢價。”
Together 的新任首席科學家和 Snorkel AI 合作夥伴關係
除了平臺新聞外，Together 還宣布本週聘請了一位新的首席科學家 Tri Dao，他最近在斯坦福大學取得了電腦科學博士學位，並將成為普林斯頓大學的新任助理教授。Dao 以他的 FlashAttention 突破性研究而聞名，該研究有助於改善 LLMs 的訓練和推斷，並已被所有基於 Transformer 的模型廣泛使用。FlashAttention-2 現在已經可用，可以將 LLMs 的訓練和微調加速 4 倍，並且在 NVIDIA A100 上實現了 72％ 的模型 FLOPs 利用率。此外本週 Together 還宣布與 Snorkel AI 達成合作夥伴關係，並在安全環境中讓組織能夠根據自己的資料構建自定義的 LLMs。這一端到端的 AI 開發解決方案涵蓋了資料開發、模型訓練、微調和部署。
VentureBeat 的使命是成為技術決策者獲取有關企業技術轉型和交易的數位化集市。發現我們的簡報。
關鍵詞：OpenAI、AI、平臺、LLaMA2、挑戰、OpenAI、LLaMA2、AI 全套平臺
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- OpenAI 表示正在建立一個工具，以讓內容創作者選擇退出 AI 訓練
- 微軟和 OpenAI 啟動 200 萬美元基金以對抗選舉假影片
- Stack Overflow 與 OpenAI 簽約，提供資料支援其模型
- Quora CEO Adam D’Angelo 分享人工智慧和聊天機器人平臺 Poe，並解釋為何 OpenAI 並非競爭對手
- OpenAI 與英國《金融時報》達成戰略合作，包括內容使用
- OpenAI 旗下創投基金悄悄籌集 1500 萬美元
- 「不鏽鋼」幫助 OpenAI、Anthropic 等公司構建其 API 的 SDK
- OpenAI 計劃在東京設立新辦事處、特斯拉裁員數千人
- OpenAI 宣布東京辦公室成立，並推出日文最佳化的 GPT-4 模型
