"生成人工智慧"引發討論 以開源與專有模型為主軸
生成人工智慧的危機：龐大的推論成本
生成人工智慧（Generative AI）自問世後一直是媒體焦點所在，我們一開始被這項新技術的創新所吸引，但現在我們已超越了娛樂與遊戲的層面，我們正在看到它對商業的真實影響。微軟、亞馬遜網路服務（AWS）和 Google 正在進行一場完全的"人工智慧競賽"以爭奪主導地位。企業們為了不落後或錯過重大商機而匆忙調整策略。而由於風險投資商正追求下一個賭注，以龐大語言模型（LLM）為核心驅動的新公司也每分每秒都在出現。
然而隨著每一項新技術的出現，都伴隨著一系列挑戰。當前積極討論的話題包括模型的真實性、偏見以及訓練成本。與技術相關的議題中，身分和安全問題雖然與模型的誤用有關，但也開始成為各界關注的焦點。在所有這些議題中，有一個問題仍然需要更多的關注：在生產環境中執行這些大型模型的成本（推論成本）對創新構成了重大威脅。生成模型非常龐大、複雜且需要大量計算資源，因此執行成本比其他型別的機器學習模型更高。
以一個以家居裝飾為主題的應用程式為例，該程式可以幫助客戶以不同的設計風格構想房間的樣貌。透過微調，模型 Stable Diffusion 能夠輕鬆實現這一點。你選擇了一家按 1000 張圖片 1.50 美元計費的服務供應商，這聽起來似乎不算多，但如果該應用程式爆紅呢？假設你擁有每天 100 萬名活躍使用者，為他們每人製作十張圖片。這將使推論成本達到 540 萬美元/年。
現在如果您是一家以生成模型或 LLM 作為應用程式支援的公司，您的整個定價結構、增長計劃和業務模式都必須考慮這些成本。當您的人工智慧應用程式問世時，訓練成本可以視為已發生的花費，但推論成本卻是永恆的。許多公司正在執行這些模型，並且他們將面臨無法長期維持這些成本的困境。然而儘管專有模型在短時間內取得了巨大進展，但它們並不是唯一的選擇。開源模型在靈活性、效能和成本節省方面也顯示出了巨大的潛力，可能對許多新興公司來說是一個可行的選擇。
開源與專有模型的重要性
毫無疑問，專有模型在很短的時間內取得了重大突破。就在過去幾個月裡，我們見證了 OpenAI 和微軟推出了 GPT-4、Bing Chat 和無數的外掛。Google 也推出了 Bard。這項技術在短時間內取得了令人印象深刻的進展。然而與廣泛的觀點相反，我相信生成人工智慧不是一個"贏者通喫"的遊戲。事實上儘管這些模型具有創新性，但它們只是揭示了可能性的冰山一角，最有趣的創新將來還會呈現出開源的形式。
正如我們在軟體界所見，我們已經到達一個公司採用混合模式的時候。在適當的情況下，他們會使用開源和專有模型。已經有證據表明，開源將在生成人工智慧的普及中起到重要作用。例如，Meta 公司推出了最新的 LLaMA 2 模型，引起了很大的關注。還有 LLaMA，它是一個功能強大而小巧的模型，可以透過進行少量（約 80,000 美元）重訓練和約 600 美元的指導微調而重新使用。您可以在任何地方執行此模型，甚至在 Macbook Pro、智慧手機或樹莓派上執行。同時 Cerebras 公司推出了一系列模型，Databricks 則推出了 Dolly，這是一個 ChatGPT 風格的開源模型，同樣具有靈活性和訓練成本低廉。
模型、成本和開源的力量
我們現在看到開源模型出現的原因是它們的靈活性；只要具備適當的工具，你可以在任何硬體上執行它們。但對於專有模型，你無法獲得這種管理和控制的靈活性。而且這一切只發生在短時間內，而且才剛剛開始。我們從開源軟體社區中學到了很多寶貴的經驗。如果我們可以讓人工智慧模型公開可用，我們就能更好地推動創新。我們可以培養一個全球的開發人員、研究人員和創新者社區，共同為了更大的福祉而貢獻、改進和定制模型。如果我們能夠實現這一點，開發人員將可以選擇執行適合他們特定需求的模型，無論是開源、現成或自定義。在這個世界中，可能性真的是無窮無盡。
Luis Ceze 是 OctoML 公司的執行長。
