火星人公司的自動切換工具：降低成本的自動化
火星人公司的新技術
來自賓夕法尼亞大學的 AI 研究人員 Shriyash Upadhyay 和 Etan Ginsberg 最近建立了一家名為火星人（Martian）的公司，他們的首個產品是一種「模型路由器」。這個工具能夠自動切換大型語言模型（LLM），以在特定任務中降低成本並提高效能。Upadhyay 和 Ginsberg 相信，這項創新有望在 AI 行業中引起轟動。
AI 公司的基礎研究與市場動態
在這個新聞中，Upadhyay 和 Ginsberg 批評了許多大型 AI 公司在發展功能強大的 AI 模型時，放棄了基礎研究。他們指出，當公司籌集巨額資金時，大部分資金通常用於保持競爭力，而非用於研究基礎問題。這引發了市場動態與 AI 研究盈利性之間的挑戰。
火星人公司的使命與突破
為理解決這一問題，Upadhyay 和 Ginsberg 相信最好的方式是創立一家能夠從解釋性中受益的公司。他們假設，這家公司的使命將自然與推進解釋性研究相一致，而不是功能研究，從而促進更強大的研究。這就是火星人公司的使命，並且他們今日宣佈從隱祕狀態中脫穎而出並籌措了 900 萬美元的投資，其中包括 NEA、Prosus Ventures、Carya Venture Partners 和 General Catalyst 等投資者。
自動切換工具的執行
火星人公司的新產品是一種「模型路由器」，這個工具能夠自動將一個用於大型語言模型（LLM）的提示（例如 GPT-4）自動路由到「最佳」LLM。該模型路由器會根據提示的特定上下文（例如語言、功能、成本效益比等）預設選擇最適合的 LLM。這種技術使得公司可以在應用中使用一組模型，從而實現比任何單一 LLM 更高的效能和更低的成本。
技術突破與市場競爭
這種切換工具不是新技術，至少還有一家名為 Credal 的新創公司提供了類似的自動模型切換工具。火星人公司的競爭力和在商業場景中的交付能力將決定其未來發展的趨勢。Upadhyay 和 Ginsberg 聲稱，已經有一些「數十億美元」的公司開始使用他們的產品。他們認為，建立一個真正有效的模型路由器是極其困難的，因為它需要對這些模型的執行方式進行深入理解，這也是他們所開拓的突破。
總結
火星人公司的模型路由器技術的確具有潛在的價值和創新性。它為 AI 應用開發和運營提供了更多的選擇和靈活性，同時有助於降低成本。然而這種技術的實際應用和商業競爭還需要時間來證實。火星人公司和類似公司的發展情況將對 AI 市場的演進和成熟程度產生重要影響。
