Prompt Security：保障企業的 GenAI 安全
引言
隨著商業活動的加速，各行業紛紛將生成式人工智慧（GenAI）應用於企業員工和使用者之中。然而如何在推動速度和安全性之間取得平衡，一直是一個關鍵問題。因此很多企業現在才開始意識到使用 GenAI 可能存在的安全風險。以色列公司 Prompt Security 希望協助組織確保員工不會向 GenAI 工具洩漏資料，包括那些未經公司 IT 團隊正式認可的"影子 AI"，同時幫助他們保障面向客戶的 GenAI 應用的安全。
公司背景
Prompt Security 今日宣布從隱藏狀態中走出，並宣布由 Hetz Ventures 領投的 500 萬美元種子輪融資，Four Rivers 和一些業內天使投資者（包括 Airbnb、Elastic 和 Dolby 的 CISO）也參與了此輪融資。Prompt Security 的創辦人 Itamar Golan（CEO）和 Lior Drihem（CTO）曾在 Check Point 和 Orca Security 工作。Golan 表示他一直想創辦自己的公司，而 AI 和安全是他最大的兩個熱情所在，但五年前，他意識到市場尚未成熟，因此他等待了適當的時機。
市場需求
現今，CISO（首席訊息安全官）面臨的問題之一是他們對於員工在公司內渠道中使用的工具缺乏良好的理解，這也為員工散佈個人身份訊息等行為留下了漏洞。這種資料外洩不僅本身存在問題，還可能導致公司面臨監管問題。
產品與應用
Prompt Security 為確保這種情況不會發生而推出的產品是一款瀏覽器擴充套件程式和一款 IDE 外掛。公司的工具能夠自動偵測與 GenAI 使用相關的模式，並在此基礕上實施執行策略。據公司表示這樣做對使用者體驗的干擾極小。在應用方面，GenAI 聊天應用開啟了一個新的攻擊面，可能導致提示注入和越獄，甚至允許攻擊者在公司網路內執行未經授權的程式碼。
展望與趨勢
Golan 指出，Prompt Security 正試圖透過涵蓋組織 GenAI 使用的各個方面，構建一個完整的平臺。他表示市場佔有率與發展速度快速增長，未來公司計劃推出更多服務來幫助客戶增強其 GenAI 安全性。當前 Prompt Security 主要專注於保障應用在生產環境中的安全性，但團隊計劃逐步將焦點轉向協助開發人員在應用的開發和測試階段確保安全性。Golan 表示公司需要專注於當前關於 Gen AI 的需求，即實時可視性和資料隱私，而公司的擴張計劃需要更多的資金和客戶反饋。
結論
在生成式人工智慧的應用領域，安全問題不斷浮現。Prompt Security 的產品和服務為企業提供了一個全面的解決方案，從員工的使用到應用的安全，都能得到保障。對於企業來說保障 GenAI 的安全尤為重要，同時也是踏上 AI 應用之路的必要保障。隨著市場的迅速變化，Prompt Security 的籌劃和發展也將不斷調整。企業需要時刻關注 GenAI 的安全問題，並選擇適合的解決方案以確保其業務的順利執行。
