生成式人工智慧：新的加州淘金潮
生成式人工智慧的技術突破比預期的還要早。可能連 ChatGPT 的創造者都沒想到他們的創作會如此迅速地取得巨大成功。這不僅僅是我們這個時代的 iPhone 或瀏覽器時刻，它遠超出了這些。儘管生成式人工智慧帶來許多好處，但越來越多的聲音對這項技術可能帶來的意外社會影響表達了擔憂。有人擔心軟體工程在下一個十年內將成為需求最大的工作，而創意工作將受到高度追捧。還有人擔心可能出現工作損失，可能需要重新培訓。這是人類歷史上第一次，白領工作有可能被自動化，這可能使得昂貴的學位和多年經驗變得無意義。但政府應該透過實行規定來緩減速度，還是應該繼續改善這種將徹底改變對工作的看法的技術？讓我們探索生成式人工智慧：新的加州淘金潮。
資料：新的石油
長久以來，人們將資料稱為新的石油。擁有大量獨有資料的企業可以建立競爭壕溝。為了做到這一點，從描述性（例如：“告訴我發生了什麼”）到預測性（例如：“我應該怎麼做以提高營收”）的從大資料集中提取有意義的洞察的技術在過去幾十年中得到了發展。無論您使用 SQL-based 分析、電子表格，還是 R/Stata 軟體來完成這些分析，您在可行範圍內進行的工作是有限的。但是有了生成式人工智慧，這些資料可以用來在幾秒鐘內建立全新的報告、表格、程式碼、影象和影片。這種技術的威力令世界為之震動。
祕密的魔法
從基本層面上來看，讓我們來看看一條直線 y=mx+c 的簡單方程。這是一個簡單的 2D 表示其中 m 代表曲線的斜率，c 代表固定數位，即該直線與 x 軸相交的點。從最基本的角度來看，m 和 c 分別代表 AI 模型的權重和偏差。現在讓我們慢慢擴充套件這個簡單的方程，考慮人類大腦的神經元和突觸如何共同工作以檢索知識並作出決策。表示人類大腦需要一個多維空間（稱為向量），其中可以編碼和儲存無限知識以便快速檢索。想像一下將文書處理轉換為數學問題：向量嵌入
向量嵌入
想像一下，每個資料（影象、文字、部落格等）都可以用數位表示。這是可能的。所有這些文字/句子/段落都可以轉換為所謂的向量，即數位的集合。當您將所有這些文字轉換為向量並捕捉到不同單詞之間的關係時，您就會得到一個稱為嵌入的東西。完成這一步後，您基本上可以將搜尋和分類轉換為數學問題。在這種多維空間中，當我們將文字表示為數學向量表示時，我們得到了一個詞聚類，其中在意義上相似的詞在同一個聚類中。例如，在上面的截圖（來自 Tensorflow 嵌入投影機），距離單詞“資料庫”最近的單詞被聚在同一個區域中，這將使回答包含該詞的查詢非常容易。嵌入可以用於建立文字分類器和增強語義搜尋。一旦您有了訓練好的模型，您可以要求它生成“一只穿著宇航服在太空中飛行的貓的影象”，它將在幾秒鐘內生成該影象
競爭優勢
看過《泰德·拉索》這部劇嗎？這部劇單獨將新使用者帶到了 AppleTV。這表明，在數位流媒體業務的競爭戰爭中，您不需要製作 100 個普通的節目，您只需要製作一個令人難以置信的節目。在生成式人工智慧的世界中，OpenAI 完成了這一點，他們不斷反覆最佳化和推出創新產品，如 GPT-1/2/3 和 DALL‧E。其他資源更豐富的公司可能更加謹慎，現在則在追趕的遊戲中。微軟的執行長納德拉（Satya Nadella）曾經問過關於生成式人工智慧的問題：“OpenAI 只用 250 個人開發了這個，那我們為什麼還要有微軟研究呢？”一旦您有了一個訓練好的模型，您可以提供優質資料，它就會增加競爭優勢。越來越多的使用者使用產品，並且使用產品時，他們在文字提示中分享資料，這些資料可以用來改進模型。一旦開始資料->訓練->微調->訓練的迴圈開始執行，它就可以作為企業的可持續競爭區隔。過去幾年來，供應商（無論是大型還是小型）一直專注於建立越來越大的模型，以提高效能。當您可以用 5000 億個引數的大型通用模型來回答任何行業的任何主題的問題時，為什麼在一個只有 100 億個引數的模型上停止呢？近來人們已經意識到，透過模型的大小可能達到了生產效率的極限。對於特定領域的使用案例，使用在高度具體資料上訓練的較小的模型可能更為合適。其中一個例子是 BloombergGPT，這是一個由 Bloomberg 獨有資料訓練的私有模型。它是一個 500 億引數的語言模型，其基於大量金融文章、新聞和其他文字資料進行訓練。對模型進行的獨立評估表明，沒有一種銀彈，但企業的最佳模型將是與案例相關的。它可以是大型的或小型的，可以是開源的或封閉的。斯坦福大學對開放 AI、Cohere、Anthropic 等模型的全面評估顯示，較小的模型可能比其較大的對應物表現更好。這影響了一家公司在開始使用生成式人工智慧方面可以做出的選擇，決策者不得不考慮多個因素：
操作化基礎模型的複雜性：
訓練模型是一個永遠不會“完成”的過程。每當模型透過微調過程時，它的權重和偏差都會更新。訓練和推斷成本：當今有幾種選項可供選擇，每種選擇的成本都取決於所需的微調：從頭開始訓練自己的模型。這相當昂貴，因為訓練一個大型語言模型（LLM）可能需要高達 1000 萬美元。使用大型供應商的公共模型。在這裡 API 使用成本可能會非常高。微調較小的專有或開源模型。這需要不斷更新模型的成本。除了培訓成本外，需要意識到每次呼叫模型的 API 時，都會增加成本。例如，對於像傳送電子郵件爆炸這樣的簡單操作，如果每封電子郵件都要使用模型進行個性化處理，成本可能增加多達 10 倍，從而對企業的毛利率產生負面影響。
對錯誤訊息的自信：
擁有 LLM 的信心的人只需付出少量的努力，就有可能取得成功！由於這些輸出是有機率的，並且不是確保性的，一旦提出問題，模型可能會蒙混出一個答案並表現出非常自信的樣子。這種稱為幻覺的現象是企業中採用 LLM 的一個主要障礙。
團隊和技能：
在過去幾年裡，與各種資料和人工智慧領域的領先者交流後，我們發現需要重組團隊來管理公司今天所處理的大量資料。儘管在很大程度上取決於具體的使用案例，但最有效的結構似乎是一個管理資料、引領分析和機器學習分析的中央團隊。這種結構不僅對預測性 AI 有用，對生成式 AI 也很有效。
安全和資料隱私：
員工很容易與 LLM 共享關鍵程式碼或專有訊息，一旦共享，資料可以並且將被供應商用於更新他們的模型。這意味著資料可能會離開企業的安全區域，這是一個問題，因為除了公司的商業機密外，這些資料可能還包含個人可識別訊息/個人衛生訊息資料，這可能引發監管行動。
預測性 AI 與生成式 AI 的比較：
團隊們在將機器學習應用於實際案例中一直面臨困難。根據 Gartner 的估計，只有 50％的預測模型在由資料科學家進行實驗之後能夠在產品使用案例中得到應用。然而根據使用案例的不同，生成式 AI 相對於預測性 AI 具有許多優勢。產生價值的時間非常短。在沒有訓練或微調的情況下，不同行業的各種功能都可以獲得價值。今天您可以在幾秒鐘內為基本的網路應用程式生成程式碼（包括後端和前端）。對於專業開發人員來說這通常需要至少數天甚至數小時。
未來機會
如果你回到 2008 年，你會聽到很多對雲端計算的懷疑聲音。從私有或公共資料中心將應用程式和資料遷移到雲端是否會有意義，這樣會失去對細節的精確控制？但是多雲和 DevOps 技術的發展使企業不僅感到舒適，而且加速了他們向雲端的遷移。生成式人工智慧今天可能相當於 2008 年的雲端。這意味著，仍然有很多創新的大型企業等待被創立。對於創業者來說這是一個巨大的機會，可以建立有影響力的產品，因為整個技術堆疊正在建立中。
尚需解決的問題
- AI 的安全性：解決惡意操縱模型權重或使每個編寫的程式碼都帶有後門的問題。這些攻擊非常進階，即使專家特別尋找它們，也很容易忽視。
- 批次生成模型的操作：將生成式 AI 整合到日常工作流程中對於大型和小型組織來說仍然是一個復雜的挑戰。無論您是將開源或專有的 LLMs 串聯在一起，都會面臨複雜性。然後，在事情出錯時，問題解決、實驗和觀測以及持續整合等問題，也變得重要。
- AI 代理和協作者：一個代理其實就是您的私人廚師、EA 和網站建立者，三者合一。將其視為在 LLMs 之上新增智慧的一層協調層。這些系統可以釋放 AI 的潛力。對於指定目標，例如：“建立一個以法律、市場推廣、設計模板和招聘為組織基礎的一組資源的網站，任何創業者都會受益”，代理將其拆分為可實現的任務，然後協調實現目標。
- 合規性和 AI 保護框架：監管即將到來，各國的立法者將起草有關這項破壞性新技術的有意義的框架。從訓練到推斷再到提示，使用生成式人工智慧時，將需要新的方法來保護敏感訊息。
結論
對於有遠見的創業家來說企業的生成式人工智慧是一個巨大的機遇，可以建立未來的頂尖科技公司。這還只是第一局正在進行中。大企業、中小企業和初創企業都在努力弄清楚如何從這項創新的新技術中受益。就像加州的淘金潮一樣，如果進入壁壘過高，可能還可以透過銷售工具和服務來建立成功的公司。生成式人工智慧尚需解決一些問題，如 AI 的安全性、操作 LLMs 以及 AI 代理的工具等。不過生成式人工智慧給未來帶來了許多機會。請留意監管和隱私保護的相關問題，這確實是值得關注的。AI 永遠無法取代人類大腦的創造力和美感，人類的大腦可以有從未想過的想法。所以，那些懂得如何在一個週末內開發令人驚艷的技術的程式碼詩人將發現 AI 是一種樂趣，絕不是對他們事業的威脅。
延伸閱讀
- 亞馬遜推出 Bedrock Studio：簡化生成式人工智慧應用開發
- 本週人工智慧大事記：生成式人工智慧與創作者補償的問題
- Dropbox、Figma CEO 支援 Lamini：新創公司打造企業專用生成式人工智慧平臺
- 蒙古敦發展迎來 10 週年，CEO Dev Ittycheria 討論 AI 熱潮與資料庫之進化
- 亞馬遜計劃託管企業定製的生成式人工智慧模型
- Google 雲端大會：Google 全力開發生成式人工智慧
- Google 將生成式人工智慧技術注入其雲安全工具
- Fireworks.ai 開源 API 讓生成式人工智慧適用於任何開發者
- 美國白宮提議投入高達 85 億美元支援英特爾國內晶片製造
- Brain.ai：生成式人工智慧系統統一作業系統
