面臨資料泄露風險，企業如何保護機密資料同時利用生成式人工智慧的生產力
AI 治理成為風險管理討論的熱門話題
隨著 ChatGPT 等生成式人工智慧（gen AI）的生產力增益越來越受企業歡迎，機密資料洩露到大型語言模型（LLMs）的安全風險也日益突出。風險管理討論中，企業的首席訊息安全官（CISO）透過對 AI 治理進行分析，提供了不同的觀點。儘管如此不少 CISO 均將 AI 治理作為風險管理討論與董事會之間的熱門話題。例如，National Oilwell Varco（NOV）的 CIO Alex Philips 在今年早些時候接受 VentureBeat 的採訪時表示他透過教育為主的方法，讓董事會時刻理解最新的 gen AI 技術優勢、風險以及現狀。Philips 表示持續的教育過程有助於對 gen AI 的功能與約束設定合理期望，並幫助 NOV 建立相應的保護措施以防止機密資料洩露。
醫療機構約束 ChatGPT 存取以降低風險
一些醫療機構的 CISO 和 CIO 都約束了 ChatGPT 在所有研發、定價和授權業務單位中的使用。VentureBeat 理解到，CISO 對於如何管理機密資料洩露到 LLMs 的安全風險存在分歧。由於智慧財產權、定價和授權風險過大，醫療機構願意放棄 gen AI 作為一種研究工具。
夜幕 AI 推出首個針對 gen AI 的資料安全平臺
夜幕 for GenAI 平臺幫助企業實現生產力提升與資料安全保護
為了使員工能夠更高效地利用 gen AI 和 ChatGPT，同時保護機密資料，雲資料防損（DLP）平臺夜幕 AI（Nightfall AI）近日宣布推出首個針對 gen AI 的資料安全平臺。該平臺涵蓋 API、瀏覽器和軟體即服務（SaaS）應用的 gen AI 保護。面對在組織內使用 gen AI 和 ChatGPT 時面臨的生產力困境，夜幕 AI 的平臺成為首個跨三個主要風險向量的 DLP 平臺，CISO 們在保護組織時最需要幫助的方向。
夜幕 for GenAI 平臺的產品組成
- Nightfall for ChatGPT：提供基於瀏覽器的解決方案，能夠即時掃描和隱私保護員工輸入聊天機器人的敏感資料，以減少資料洩露風險。該方案透過提供瀏覽器擴充套件，能夠最大程度減少對使用者體驗的影響。
- Nightfall for LLMs：作為夜幕 AI 核心優勢之一的 API 在 gen AI 中扮演重要的角色，該 API 能夠檢測和隱私保護開發人員在訓練 LLMs 時輸入的資料。許多行業龍頭企業已將夜幕 AI 的 API 整合到其工作流程中。
- Nightfall for SaaS：在流行的 SaaS 應用程式的工作流程中提供資料洩露防止，允許企業在第三方 AI 系統處理資料時檢測和隱私保護敏感資料。這樣可以防止在聊天機器人對話、檔案、雲儲存和其他 SaaS 應用中洩露敏感訊息。
企業如何平衡生產力與資料安全
面臨資料洩露風險的挑戰是如何讓機密資料安全的同時允許員工在瀏覽器、應用程式和 API 層級上更具生產力地使用 gen AI 和 ChatGPT。夜幕 AI 的資料安全平臺為企業提供理解決方案。然而 CISO 們對於採用 gen AI 作為研究和生產力平臺存在以下三個主要擔憂：
- 員工可能會在聊天機器人提示中包含敏感資料（例如軟體憑證或客戶個人身份訊息）。
- 員工可能會意外洩露具有第三方 AI 子處理器（例如 Anthropic）的 SaaS 應用（如 Notion）中的機密公司資料。
- 工程師和資料科學家可能會使用機密資料來建立和訓練 LLMs。最近的一個事件中，使用者成功誘使 ChatGPT 生成 Windows 作業系統的有效 API 金鑰。因此建立一個完整的 DLP 解決方案對於安全採用 AI 來說至關重要。
夜幕 AI 保護 gen AI 的未來生產力提升
gen AI 的生產力對於 Genesys 為客戶提供卓越服務至關重要。Genesys 的安全副總裁 Eric Cohen 稱讚了夜幕 AI 的創新，並將其與 Okta 的早期進展相提並論。他表示與 Okta 在集中化使用者存取和管理雲應用的安全方面相似，夜幕現在正在為生成式人工智慧和雲的資料安全做同樣的事情。
夜幕 AI 平臺的早期採用者，如 Genesys，在可定制的資料規則和整合反饋方面提供了顯著優勢。對於 CISO 而言，該平臺提供了所需的可視性和控制，以在保護資料安全的同時充分利用 AI。夜幕針對 gen AI 的平臺的推出標誌著實現人工智慧潛力的重要裏程碑達成。
延伸閱讀
- 英國深入調查 TikTok、Reddit 和 Imgur 如何保障兒童隱私！
- 揭開加密後門的神祕面紗：它是安全還是風險的雙刃劍？
- 「又一名受害者揭露 Paragon 間諜軟體的襲擊！」
- HPE 通報俄國駭客攻擊後 資料洩露受害者急需注意！
- 美國各州聯盟起訴！馬斯克的 DOGE 獲取美國人私密資料，引發隱私風波
- 「PowerSchool 資料洩露真相揭祕：受害者如何聯手調查這場毀滅性駭客攻擊」
- 「資料經紀商洩漏海量位置資料，數百萬人的隱私岌岌可危！」
- 「資料經紀人的位置資料洩露危機：數百萬人的隱私顯示危險！」
- 2024 年十大最糟資料外洩事件，企業處理不得當引發沸騰！
- 2024 年十大資料洩露事件：哪些企業失誤最嚴重？
