生成式 AI：智慧與愚昧並存
在 2023 年 TED Talk 中，電腦科學家 Yejin Choi 曾說過一個貌似矛盾的說法：“現今的 AI 既極其聰明，也極其愚蠢。”如何能夠聰明卻愚昧？AI（包括生成式 AI）並不是被設計用來提供特定工作所需的準確、特定背景的訊息的。事實上用這種方式來測量一個模型是徒勞無功的。這些模型是為了根據已經體驗過的東西進行相應性研究並基於這些可能的理論生成響應。因此儘管生成式 AI 在創造性方面不斷令人驚嘆，但在 B2B 方面卻往往短板顯露。
如果不規範，生成式 AI 可能會幻覺。這是模型製造的假訊息冒充真相的現象。無論公司在哪個行業，這些重大缺陷都不利於企業。
構建強大的反假訊息框架
Got It AI 是一家可以識別生成式謊言的公司。進行的測試發現，ChatGPT 的 LLM 意外的 20% 都是錯誤的響應，這樣的高故障率是不符合企業目標的。因此為理解決這個問題並防止生成式 AI 發生幻覺，不能讓它在真空中工作。尤其重要的是，必須在高質量的資料上訓練系統以獲得輸出，並經常由人員進行監控。隨著時間的推移，這些反饋迴圈可以幫助糾正錯誤並提高模型的準確性。警惕生成式 AI 的優美書寫與有上下文的口吻。
商業系統的初始階段是開始接收和處理公司和其特定目標相關的訊息。中間階段是完善得精心設計的模型，其中包括了精緻調整心細的 LLMs。OpenAI 將細調模型描述為“建立特定於使用案例的新型模型的有力技術”。這是透過在更多的案例中訓練模型，並不斷增加一些特定的例子，以獲得更好的結果。
在這個階段中，公司可以選擇在使用硬編碼自動化和精細調整的 LLMs 之間進行平衡。雖然協調可能因公司而異，但充分利用每種技術的優勢可以確保最具上下文的輸出。設定好背景後，就可以讓生成式 AI 在外部溝通中體現自己的優勢。它不僅可以迅速創造出高度精確的答案，而且還可以提供個人化的口吻，不會遭受共情疲勞。
透過人為檢查點協調技術
透過協調各種技術槓桿，任何公司都可以提供所需的結構化事實和上下文，讓 LLMs 發揮所長。首先領導必須確保哪些任務對人類而言是計算強度大但對自動化而言很簡單的，反之亦然。然後，考慮到 AI 優於兩者。簡單解決方案是不要在自動化工具或甚至人類工作效率過高的地方使用 AI。開始使用生成式 AI 的前提是企業建立了一個堅實基礎。因為在生成式 AI 接觸訊息之前，訊息已被高度精選，所以系統可以準確應對更複雜的工作。保持人在回路中仍然至關重要，可以取證模型輸出的準確性，並在需要時提供模型反饋和修正結果。
透明度的作用:衡量結果
當前 LLMs 是黑匣子。在發布 GPT-4 時，OpenAI 聲稱：“考慮到競爭環境和大型模型（如 GPT-4）的安全性影響，本報告不包含有關體系結構（包括模型大小），硬體，培訓計算，資料集構造，培訓方法或類似事項的進一步詳細訊息”。儘管在使模型不再那麼模糊方面已經取得了一些進展，但模型的工作方式仍然是一個謎。無法確保模型裏是什麼，除了成本和與之互動的方式之外，不清楚模型之間有什麼區別。現在有公司在生成式 AI 模型中引入標準效能指標，從而推動透明度。這種標準性的效能測量對企業具有重大影響。
像 Gentrace 這樣的公司將資料與客戶反饋相結合，以便任何人都可以看到 LLM 為生成式 AI 的輸出表現。Paperplane.ai 等公司更進一步，透過捕獲生成式 AI 資料並與使用者反饋相結合，以便領導可以評估部署質量、速度和成本。
結論與建議
如果企業想要充分利用生成式 AI 的無限潛力，則應將以下三個技術框架納入其技術堆疊中：
- 構建強大的反假訊息框架： 透過在產品設計之初就保持上下文及成果導向，為生成式 AI 提供鮮明的目標。此外監管也是非常重要的步驟，需要進行高質量的資料訓練和人工監察，以便提高模型準確性。
- 透過人工檢查點協調技術：透過人工、自動和 AI 技術的有機結合，確保哪些任務使用哪種技術，從而使整個過程更高效。
- 透過透明度測量結果：為了確保模型跟蹤準確，領導要將可能需要調整的部分完全透明化，加入預設設定和反饋系統，進行定期評估。建立標志以度量整個生成式 AI 應用程式集，以便持續跟蹤其績效。
從中可以看出，生成式 AI 僅在經過嚴格處理的資料上工作時才能夠發揮作用。因此為應對各種業務挑戰，企業需要制定合適的生成式 AI 技術策略。這樣可以在創造性、效率性和準確性方面發揮其潛力，取得更大的成功。
Transform 2023 活動將是一個不錯的契機，屆時各企業領袖將分享他們是如何整合和最佳化 AI 投資以實現成功、避免常見陷阱的。值得各位關注。
延伸閱讀
- 華爾街日報：沃爾瑪在消費電子展示會上推出生成式 AI 搜尋和補貨功能
- AI App 層的智慧系統: 生成式 AI
- 泰坦人工智慧利用生成式 AI 精簡手機遊戲開發
- Nvidia 的 NeMo 運用生成式 AI 設計半導體晶片，震撼登場！
- 研究發現，為了在工程設計上優越，生成式 AI 必須學會創新
- Observe 籌集 5,000 萬美元，引入生成式 AI，協助企業視覺化所有資料
- Google 將向青少年開放生成式 AI 搜尋體驗
- 歐盟呼籲加固生成式 AI 保障措施，因深度偽造選舉帶來風險
- ServiceNow 溫哥華啟動專業生成式 AI 功能，推出全新自動化工具
- 亞馬遜宣布全新生成式 AI 版本的 Alexa
