提示設計：改變策略的首選，優於 LLM 的微調
導言
在生成式人工智慧（AI）的湧現中，創新總監們透過強化企業的 IT 部門，追求定制的聊天機器人或 LLMs（語言模型）。他們希望擁有像 ChatGPT 一樣的功能強大，同時具備特定領域知識、資料安全合規以及更高的準確性和相關性。他們經常面臨的問題是：是應該從頭開始建立一個 LLM，還是使用自己的資料來微調現有的 LLM？對於大多數公司來說這兩種選擇都不切實際。以下將解釋原因。綜述
在考慮更昂貴的替代方案之前，建議透過構建全面的"提示設計"來最大程度地提取各種提示的價值，以增強 API 驅動工具的功能。透過正確的提示序列，LLM 在遵循指令方面非常靈活。只有在這種情況下無法滿足需求（少數情況），才會考慮微調過程（由於涉及資料準備而更昂貴）。從頭開始建立一個 LLM 幾乎是不可能的。我們追求的目標是找到一種利用現有檔案建立定制解決方案的方法，以準確、快速且安全地自動執行頻繁任務或回答頻繁問題。提示設計是實現這一目標最高效、最具成本效益的途徑。提示設計與微調的區別
如果您正在考慮提示設計，那麼您可能已經理解了微調的概念。以下是兩者之間的關鍵區別： - 微調涉及修改基礎 LLM 的內容，而提示設計則不需要。 - 微調是一個巨大的專案，它需要使用大量新資料集（最好是您自己的資料集）重新訓練 LLM 的一部分。這個過程注入了特定領域的知識，試圖使其適應您的行業和業務背景。 - 相反，提示設計利用現有的 LLM，而不修改模型本身或其訓練資料。它透過結合一系列複雜且巧妙設計的提示來提供一致的輸出。微調適用於對資料隱私要求最嚴格的公司（例如銀行）。
討論
在現實世界中，LLMs 已經證實了其自適應和靈活性。加上正確的提示設計，LLMs 可以根據指令進行精確的操作。提示設計的主要優勢之一是減少了資源和時間成本。相對於微調 LLM，建立提示序列所需的投入較少，因為它不需要訓練新的模型或處理大量資料。這樣的節省可以在開發過程中轉移到其他關鍵任務上，同時保持準確性和相關性的提高。 儘管如此當 LLM 無法有效回答某些特定問題或執行特定任務時，微調仍然是一種可行的解決方案。儘管這會消耗更多的資源，但微調對於那些對資料隱私要求非常嚴格的公司（例如銀行）可能是必要的。透過微調，企業可以直接將領域特定知識注入已有的模型中，使其更加個性化和準確。結論
對於追求定制化聊天機器人或 LLMs 的企業來說提示設計是一種高效且成本效益的方法。相對於從頭開始建立 LLM 或進行微調，提示設計可以節省資源和時間成本，同時提供準確性和相關性的提升。然而在微調 LLM 對於資料隱私要求較高的公司的情況下，微調仍然是一種必要的解決方案。企業應根據其具體需求和資源約束，在提示設計和微調之間做出明智的選擇。本文經由""撰寫，是一專欄作家和時事評論員。這篇文章探討了在開發與應用聊天機器人或 LLMs 中，使用提示設計相較於微調的優勢和不同。該文章強調對於大多數公司來說從頭開始建立 LLM 或進行微調都不切實際，而提示設計是一種更有效且成本效益高的方法。然而一些對資料隱私要求極高的公司仍可能需要進行微調。該文章建議企業在開發過程中充分理解自身需求並做好相應的選擇。
Strategy-改變策略,提示設計,首選微調,LLM
延伸閱讀
- 資料控制平臺 Atlan 獲得 1.05 億美元投資，LLM 提升資料重要性
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- Meta 宣布其 Llama 3 開源 LLM 將在下個月推出
- 阿裏巴巴員工透露中國建立 LLM 的生活點滴
- Google 推出兩款新的開放 LLM
- 微軟 CEO 納德拉談 AI LLM 競爭：「我們正在等待競爭對手到來」
- 5 個步驟確保新創公司成功部署 LLM
- You.com 推出新的 API 來將 LLM 存取至網路
- Ghost 以 OpenAI 支援，宣稱 LLM 將克服自駕車挑戰—專家卻持懷疑態度
- Stardog 推出 Voicebox，一個使用 LLM 機能的層級以查詢企業資料
