生成式人工智慧的信任問題
在實施人工智慧（AI）時，信任問題一直是一個不可忽視的課題，特別是對於像生成式人工智慧這樣的新興技術。在 Transform 2023 大會上，Teradata 的首席產品官希拉蕊·阿什頓（Hillary Ashton）深入探討了企業如何在資料治理、隱私保護和透明度方面航行複雜問題，以確保 AI 驅動的運營能夠獲得信任。「生成式人工智慧將先進分析帶到了董事會討論桌上，它在過去往往只是一個後勤討論話題，具有很大的未開發潛力，」阿什頓表示。「這是一個令人興奮的領域，但同時也是一個需要從信任角度謹慎思考的問題。生成式人工智慧真正凸顯出受保護資料的重要性，包括什麼是個人身份訊息資料、你希望如何對待這些資料，特別是對於大型語言模型和生成式人工智慧來說這是一個需要思考的問題。」
信任在生成式人工智慧的普及中的角色
阿什頓表示企業必須本質上是值得信任的，這始於基礎資料質量的確保和個人身份訊息資料的明確分離。「這聽起來似乎是理所當然的，但對許多企業來說實際落實這一點非常困難，」她補充道。「他們需要技術、人員和流程來實現這一點。」企業需要建立強大的資料治理框架，將資料視為一種產品，確保乾淨、非個人身份訊息的資料可供使用者使用。遵守法規合規要求至關重要，組織應該透明地闡述它們對生成式人工智慧的使用以及對資料隱私的影響。與第三方供應商合作或利用語言模型時，保護智慧財產權（IP）和專有訊息也至關重要。「這就是我提到的要清楚理解你希望如何使用先進分析的原因，你需要明白什麼是不僅僅是你的個人身份訊息資料，還有你的智慧財產權。你如何保護這些？例如，如果你的高級資料科學家撰寫了提示，那作為一個組織，這是你的智慧財產權，你不想免費提供給競爭對手。這在我們考慮個人身份訊息資料等問題時可能沒有明確表述。現在提示成為了你的智慧財產權，你需要圍繞提示的保護和智慧財產權形成一個完整的法律實踐。」為此，甚至包括你選擇結構化資料的方式，這是高度專有的。如果你是銀行 A，與銀行 B 競爭，你不想用基於你資料結構的語言模型成為競爭對手的優勢，無論這些資料多麼消毒。此外她說：「你必須確保你理解你所在市場的法規合規要求是什麼，以此為目標進行建設，並對自己的客戶透明地闡述你如何使用生成式人工智慧以及如何不使用生成式人工智慧，以便贏得他們的信任。」信任不僅僅涉及到隱私，還涉及模型的可靠性和準確性。定期評估模型，並採取積極措施解決效能不佳的問題是維護使用者信任的重要手段。
如何開始？
阿什頓表示開始的方法是從你想實現的結果出發，可以分為兩個方面。第一個是在已經具有先進能力的領域，希望透過先進分析維持領先優勢。第二個是解決底線挑戰，也許競爭對手已經具備這些能力，而你尚未具備。然後，需要考慮的事項是資料治理和尊重 IP 和個人身份訊息資料的主權。其次需要在大規模的情況下實施這些措施，最後對模型進行運營管理，以理解何時模型開始出現效能不佳或返回不可接受的結果。最後評估回報率和價格效能是至關重要的。「我們都對語言模型和生成式人工智慧非常興奮，」阿什頓說。「隨著時間的推移，執行這些模型的成本可能變得不可負擔，對於那些價值不高的用例而言，不要因為它很有趣而去解決可以透過 BI 樞軸圖表完成的問題——這似乎是個瘋狂的例子，但卻並不瘋狂。」
