生成式人工智慧的信心與企業成功
在 2023 年的 TED Talk 上，電腦科學家 Yejin Choi 曾經說過一句看似矛盾的話：「當今的人工智慧非常聰明，卻又令人震驚地愚蠢。」這句話的意思是什麼呢？實際上 AI（包括生成式 AI）並不是為了提供針對特定任務的準確、具有上下文意義的訊息而設計的。事實上按照這種方式來衡量模型是一個愚蠢的錯誤。這些模型可以被看作是根據其過去的經驗來確保相關性的模型，然後透過這些機率理論來產生回應。這就是為什麼，儘管生成式 AI 在創造力方面仍然令人驚嘆，但在 B2B 要求方面卻經常無法滿足需要。
AI 的弱點
生成式 AI 可以令人瞠目結舌，例如 ChatGPT 可以把社交媒體內容轉成 rap。但是如果不加以約束，生成式 AI 也可能出現錯覺。這就是模型生成偽造訊息的情況，以此假裝真相。無論一個公司屬於哪個產業，這種嚴重的缺陷絕對不利於企業的發展。
生成式 AI 的企業應用
要達到企業級的生成式 AI，關鍵在於嚴格地結構化資料，以提供適當的上下文，然後將其用於培訓高度精煉的大型語言模型（LLMs）。把精煉的 LLMs、可執行的自動化和選擇性的人工檢查點平衡起來，形成強有力的反幻覺框架，讓生成式 AI 提供正確的結果，創造真正的 B2B 企業價值。
建立強有力的反幻覺框架
要避免生成式 AI 幻覺的問題，不可以讓它處於真空中工作。有兩個關鍵的步驟，一個是為系統訓練高質量的資料以獲得輸出，另一個是定期由人員進行監控。經過一段時間的反饋，這些回路可以幫助修正錯誤，改善模型的準確性。此外將生成式 AI 的美妙寫作與有上下文的、以結果為導向的系統相結合，也是至關重要的。在任何公司系統的初始階段，都需要將訊息針對公司及其特定目標進行定制。在中間階段，需要進行 LLM 的精煉調整。這是透過在更多的用例中訓練模型來實現的，從而獲得更好的結果。在這個階段，公司可以選擇使用硬編碼自動化和精煉的 LLMs 的混合使用。儘管不同公司的協調方式可能不同，但利用每種技術的優勢可以確保得到最具上下文意義的輸出。然後，在所有背景設定完成後，就可以讓生成式 AI 在外部交流中大放異彩了。因為生成速度快、高度準確，還可以提供個性化的語氣，而不會因同情疲勞而出錯。
利用人工檢查點口技技術
透過協調各種技術槓桿，任何公司都可以提供結構化的事實和上下文，以讓 LLMs 發揮最佳優勢。首先管理層必須確保哪些任務對人類來說是計算密集型的，但對自動化來說很簡單，反之亦然。然後，考慮 AI 比兩種方式都更好的地方。基本上，如果簡單的解決方案（如自動化或甚至人力）足以解決問題，就不要使用 AI。
例如，Stripe 的創始人 John Collison 在與 OpenAI 的 CEO Sam Altman 在舊金山的 Stripe Sessions(線上交流活動)中的對話中表示 Stripe 在任何需要人工作業或者處理一系列任務的地方都使用 OpenAI 的 GPT-4。負責苦力工作的自動化可以用來集體獲取訊息和瀏覽公司特定的檔案。公司可以對確保性的黑白命令（如退貨政策）進行硬編碼。只有在建立了這樣一個強大的基礎之後，才能使用生成式 AI。由於在生成式 AI 開始處理訊息之前，輸入被高度精選，系統已經準備好準確地應對更複雜的情況。始終要讓人類參與其中以取證模型輸出的準確性，並在需要時提供模型反饋和修正結果。
透明度的效應
當前 LLMs 是黑盒子。在發布 GPT-4 時，OpenAI 表示“考慮到競爭環境和大型模型（例如 GPT-4）的安全隱患，本報告不包括有關體系結構（包括模型大小）、硬體、訓練計算、資料集構建、訓練方法或類似專案的進一步細節。”儘管已經取得了一些減少模型透明度的進展，但模型的執行方式仍然充滿神祕感。不僅不清楚模型裡面有什麼，而且模型之間的區別也不明確。這個行業還沒有標準化的效能測量。現在一些公司正在改變這種現象，對生成式 AI 模型進行標準化效能測量，從而為企業帶來好處。像 Gentrace 這樣的公司把資料與客戶反饋相聯動，以便任何人都可以看到 LLM 的效能如何。其他像 Paperplane.ai 這樣的公司則更進一步，透過捕捉生成式 AI 資料並將其與使用者反饋相聯動，讓企業領袖可以評估部署的質量、速度和成本。
結論與建議
生成式 AI 有很多潛力可以用於企業，但在應用之前必須針對其弱點進行投資和準備。由於生成式 AI 無法獨立提供上下文特定的訊息，而且容易產生錯覺，因此必須建立建管的反幻覺框架來約束其行為。透過將不同的 AI 技術與人力資源結合起來，可以確保生成式 AI 在意料之中完成其任務。此外應測量和監控生成式 AI 的效能，以便更好地理解其功能。經過一番努力，企業可藉助生成式 AI，以創造的方式為其市場建立真正的價值。
本文作者 Liz Tsai 是 HiOperator 的創始人兼 CEO，本文摘自 VentureBeat 的文章。
