推進生成式人工智慧的安全與可靠性探索
作者：Jason Rader
安全問題與生成式人工智慧的探索和實施密切相關
生成式人工智慧的探索和實施過程中，安全問題是不可避免的。根據我們委託進行的最新報告，49%的商業領袖將安全和風險視為最重要的考慮因素，而 38%的人認為由於對如何使用生成式人工智慧工具的理解不足，造成了人為錯誤或人為資料洩露的風險。儘管這些擔憂是合理的，但早期採用者能夠獲得的好處遠遠超過了約束整合的潛在壞處。接下來，我將分享我從幫助我們的團隊和客戶理解為何安全應該是整合人工智慧到業務的前提條件以及一些最佳實踐。人工智慧的安全使用政策是開展 AI 對話的起點
公司明白他們需要以急迫的態度應對人工智慧帶來的新安全風險。事實上根據上述報告，81%的商業領袖表示他們的公司已經實施了或正在建立使用生成式人工智慧的使用者政策。為了在減少安全風險的同時加速探索，我們需要建立測試和學習的保護措施。然而由於技術不斷發展進步，每天都會出現新的應用和用例，政策應該不斷更新以應對新出現的風險和挑戰。此外政策的制定不應該孤立進行，需要涵蓋整個業務的代表，以理解每個部門如何使用或可能使用這項技術，並考慮獨特的安全風險。 重要的是，不應全面禁止使用 AI 進行基於學習的試驗。出於恐懼而抵制 AI 的公司將不再需要擔心競爭對手侵蝕他們的市場份額；他們已經自我損害了。因此我們需要保持對 AI 的實驗活動的支援。培育市民開發者的能力
為了確保我們安全地使用 AI，我們首先讓我們的市民開發者充分享用我們的大型語言學習模型 Insight GPT 的私有實例。這不僅幫助我們發現潛在的應用案例，還讓我們能夠對其輸出進行壓力測試，從而不斷進行改進。 隨著技術的發展，生成式人工智慧將深入進入各個領域，提供了廣闊的應用前景。然而我們必須正視相應的安全問題。安全必須成為使用人工智慧的公司的首要考慮因素，而不是後來才考慮。在制定方針和實施過程中，與業務各方的溝通與合作至關重要。這樣一來，我們就能夠更好地理解不同功能如何使用該技術，並提前考慮到獨特的安全風險。最重要的是，我們應該保持對 AI 試驗的開放態度，這對於公司的發展至關重要。 關鍵詞：人工智慧安全、生成式人工智慧、可靠性、探索Technology-人工智慧安全、生成式人工智慧、可靠性、探索
