打造生成式人工智慧的作業系統：一場革新的競賽
引言
生成式人工智慧（generative AI）的崛起正在重塑商業世界，它能夠自動生成文字、影象以及完整的應用程式程式碼，為企業帶來新的價值和創新潛力。根據麥肯錫最近的一份報告，生成式人工智慧有望為全球經濟帶來 4.4 萬億美元的增長。然而對許多企業來說利用生成式人工智慧的旅程才剛剛開始。他們面臨著在轉型過程中的巨大挑戰，包括轉變工作流程、系統和企業文化來擁抱這種新範式。而且他們需要迅速行動，以防止競爭對手取得優勢。生成式人工智慧的作業系統
生成式人工智慧應用程式所需的複雜互動如何組織是當前最大的障礙之一。這些應用程式由大型語言模型（LLMs）驅動，它們不僅能夠生成內容和回應，還能夠做出影響整個組織的自主決策。它們需要一種新型基礎架構來支援其智慧性和自主性。Intuit 首席資料官 Ashok Srivastava 在接受 VentureBeat 的廣泛訪談中表示這種基礎架構可以被類比為生成式人工智慧的作業系統。 生成式人工智慧的作業系統並不僅僅是在現有系統上新增一層新的軟體工具和框架。它還需要賦予系統許可權和代理能力，例如根據需要實時決定使用哪個語言模型來回答使用者的問題以及何時將對話轉交給人類專家。Intuit 的 Srivastava 稱其為“AI 管理 AI”。同時它還需要使開發人員能夠利用語言模型快速構建生成式人工智慧應用程式，就像作業系統以抽像方式革新計算，讓使用者能夠輕鬆完成複雜的任務。生成式人工智慧作業系統的四個主要層次
根據 Intuit 的 Srivastava，企業在構建生成式人工智慧作業系統時需要考慮四個主要層次：1.資料層
資料層確保企業擁有一個統一且可存取的資料系統。這包括擁有一個知識庫，其中包含有關其領域的所有相關訊息，例如對於 Intuit 來說就是稅法和會計規則。它還包括具有保護客戶隱私並符合規定的資料管理流程。2.開發層
開發層為員工提供了一種一致且標準化的方式來建立和部署生成式人工智慧應用程式。Intuit 稱之為 GenStudio，這是一個平臺，提供了 LLM 應用程式開發的模板、框架、模型和庫。它還包括用於快速設計和測試 LLM 的工具以及用於減輕潛在風險的安全措施和管理規則。目標是最佳化開發過程，實現更快、更容易的擴充套件。3.執行時層
執行時層使 LLMs 能夠自主地學習和改進，最佳化其效能和成本，並利用企業資料。這是最令人興奮和創新的領域，新的開放框架如 LangChain 大膽前行。LangChain 提供了一個介面，開發人員可以透過 API 匯入 LLMs，並將它們與資料源和工具相存取。它可以串聯多個 LLM，並指定何時使用哪個模型。4.使用者體驗層
使用者體驗層為與生成式人工智慧應用程式進行互動的客戶提供價值和滿意度。這包括設計一致、直觀和引人入勝的使用者介面。它還包括監控使用者反饋和行為，並相應調整 LLM 的輸出。其他公司在生成式人工智慧領域的競爭
雖然像 Intuit 這樣的企業正在內部建立他們自己的生成式人工智慧作業系統平臺，但也存在一個充滿活力和動態的生態系統，其中有一些開放原始碼的軟體框架和平臺正在推進 LLMs 的技術創新。這些框架和平臺使企業開發人員能夠為各個領域建立更智慧和自主的生成式人工智慧應用程式。 開發者正在利用一些公司已經建立的所謂基礎 LLMs 的辛勤工作。這些基礎 LLMs 已經透過其他組織耗費巨大的費用在大量資料和數十億個引數上進行了訓練。開發者可以透過 API 存取這些基礎 LLM 模型並將其整合到現有基礎設施中。但他們也可以根據自己的具體需求和目標進行定制，使用微調、領域適應或資料增強等技術。這些技術允許開發者使用與他們上下文相關的附加資料或引數，最佳化 LLMs 在目標領域或任務中的效能和準確性。 開發者還透過使用能夠根據使用者的輸入或上下文查詢結構化和非結構化資料來增強 LLMs 的智慧和自主性。舉例來說如果使用者要求特定公司六月份的會計資料，框架可以指示 LLM 查詢內部 SQL 資料庫或 API，並根據資料生成回應。開發者使用嵌入（embeddings）來將非結構化資料轉換為 LLMs 可以高效處理的格式，嵌入是資料點之間語義關係的表示形式。嵌入儲存在向量資料庫中，這是當前最熱門的投資領域之一。企業級 LLM 智慧的下一步是什麼？
當然像 OpenAI 和 Google 這樣的大型模型領導者正在努力將智慧融入其模型中，使企業開發者能夠依賴它們的 API，而無需自行構建專屬 LLMs。例如，Google 的 Bard 聊天機器人就利用了 Google 的 PaLM LLM，引入了稱為“隱式程式碼執行”的功能，它可以識別需要解決複雜數學問題的提示，並生成使用計算器解決問題的程式碼。OpenAI 則引入了函數呼叫和外掛等功能，它們可以將自然語言轉換為 API 呼叫或資料庫查詢，這樣，如果使用者詢問有關股票表現的問題，機器人可以從相關資料庫中返回準確的股票訊息。 然而這些模型的涵蓋範圍有限，而且由於它們是封閉的，無法根據特定的企業目標進行微調。像 Intuit 這樣的企業有資源來微調現有的基礎模型，甚至構建專門用於在 Intuit 具有競爭優勢的任務上的模型。Intuit 和其他領先的開發者現在正在進一步拓展領域，試驗自導引、自動化的 LLM“代理人”，它們更加智慧。這些代理透過 LLMs 中的上下文視窗來記住它們在完成任務時所在的位置，基本上使用自己的臨時筆記並在每一步之後反思。例如，如果使用者希望在特定日期關閉月度會計帳目，自動代理人可以列出完成此專案所需的具體任務，然後在不需要請求幫助的情況下逐一完成這些個別任務。生成式人工智慧的未來
建立生成式人工智慧的作業系統不僅僅是一個技術挑戰，也是一個戰略挑戰。能夠掌握這種新範式的企業將在競爭中獲得顯著優勢，並能夠為客戶提供更多價值和創新。它們還可能吸引並留住最優秀的人才，因為開發者將湧向從事最尖端且具有影響力的生成式人工智慧應用程式開發工作。 Intuit 是這一領域的先驅之一，現在正在實現其前瞻性和遠見的成果，能夠快速且規模化地建立和部署生成式人工智慧應用程式。去年即使在它將這些作業系統元件聯合起來之前，Intuit 稱使用 LLMs 節省了 100 萬小時的客戶呼叫時間。大多數其他公司要慢得多，因為他們現在才剛剛開始建立第一層資料層。如何構建生成式人工智慧作業系統的其他層次將成為 7 月 11 日至 12 日在舊金山舉辦的 VB Transform 的重點議題。該活動專注於企業生成式人工智慧議程，為企業技術高管提供了相互學習的獨特機會，與塑造未來商業和技術的行業專家、創新者和領袖交流。Intuit 的 Srivastava 已獲邀討論不斷發展的 GenOS 及其發展軌跡。參與活動的還包括來自麥當勞(McDonald's)、沃爾瑪(Walmart)、花旗(Citi)、萬事達卡(Mastercard)、凱悅(Hyatt)、卡爾·佩爾·珀曼特(Kaiser Permanente)、CapitalOne、Verizon 等企業的高管，還有 Amazon 的 Matt Wood（產品副總裁）、Google 的 Gerrit Kazmaier（副總裁兼營運總經理，資料與分析）以及 MosaicML 的執行長 Naveen Rao（該公司幫助企業構建自己的 LLMs，最近被 Databricks 以 1.3 億美元收購），此次會議還將展示新興公司及其產品，包括 Sequoia 的 Laura Reeder 和 Menlo 的 Tim Tully 等投資者提供反饋。我對此活動感到興奮，因為它是第一個獨立專注於企業生成式人工智慧案例的會議，我們期待這場對話。結論
打造生成式人工智慧的作業系統是一場技術和戰略競賽。隨著越來越多的企業開始探索生成式人工智慧的潛力，那些能夠建立起高效且智慧的作業系統的企業將在競爭中佔據領先地位。透過構建資料層、開發層、執行時層和使用者體驗層，企業可以實現生成式人工智慧應用程式開發的標準化和最佳化。隨著技術的不斷發展，生成式人工智慧的應用前景將更加令人期待。ArtificialIntelligence-人工智慧,作業系統,競賽,內幕,揭祕
延伸閱讀
- 用 Retell AI 讓公司打造「語音代理人」來應答電話
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
