Credal.ai：存取企業資料與 LLMs 的安全平臺
創業公司 Credal.ai 以安全可靠地存取企業內部資料與文字生成、雲端託管的人工智慧模型為目標，已經成功資助了 480 萬美元的種子輪融資，由 Spark Capital 領投。Credal.ai 的創始人 Jack Fischer 和 Ranavin Thambapillaid 分別在 Palantir 工作過，並且對安全與合規性有共同的興趣。Fischer 曾在 Google 工作，而 Ravin 則在牛津大學修讀哲學、政治和經濟學後自學程式設計。Fischer 在接受 TechCrunch 的郵件採訪中表示：“我們意識到，憑藉我們在 Palantir 的企業資料安全和人工智慧方面的背景，我們處於一個獨特的位置，可以建立一個企業實際可以信任的 AI 資料平臺。”
Credal 最初的目標是為企業開發一個“決策助手”，使用大型語言模型（LLMs）——類似 ChatGPT 的模型——閱讀檔案並就戰略和高階決策提供建議。但該專案最終演變為一個更廣泛的工具，用於存取內部資料源和外部 LLMs。當前 Credal 平臺可用於構建通用知識或特定領域的基於人工智慧的聊天機器人，應用範圍廣泛。舉例來說一家公司可以使用 Credal 開發一個關於所授權軟體的安全問題的機器人，並根據最新檔案進行回答。Credal 本身不提供 LLMs 服務，而是作為“副駕駛”存在於現有應用程式（如 Slack）中，位於使用者提交的提示（例如“這個軟體的最新版本是多少？”）和第三方 LLM 供應商（如 OpenAI 或 Anthropic）的 API 之間。Credal 試圖根據被提交資料的敏感程度、成本、公司政策和模型技術能力等因素，自動將提示指向“最適合”的 LLM。在某些情況下，它使用多個 LLM 來完成一個任務——例如使用 Anthropic 的 Claude 和 GPT-4 來結構化公司檔案。
注重合規性和安全性
許多平臺都提供將公司資料與 LLMs 相存取的方法，例如 Unstructured、Deasie 和 LlamaIndex。同時 OpenAI 正在拓展其內建外掛框架。但 Credal 在合規性和安全性方面有獨特的亮點——至少 Fischer 是這麼說的。Credal 試圖自動消去、匿名化並在敏感資料溢位網路時進行警告，例如傳送到公共雲端上託管的 LLM。並且 Credal 提供的日誌可以顯示哪些資料被分享給了哪些 LLMs。預設情況下，Credal 將保留傳送給它的資料，並且在帳戶過期後保留 30 天，這可能會讓一些公司擔心。但 Fischer 強調管理員可以隨時更改這些設定並選擇清除資料。此外 Fischer 還表示 Credal 是少數在最近的美歐資料隱私框架下註冊的供應商之一，該框架監管著兩國之間的個人資料傳輸。因此他表示 Credal 贏得了像 Wise 這樣的上市、受監管的歐洲企業的合同。他補充道：“企業的 IT 部門希望對組織內使用的人工智慧有可見性和控制權。Credal 在多個 LLM 供應商之間以標準格式提供這種透明度，提供對誰可以存取哪些模型、每個使用者可以使用哪些資料以及用於什麼目的的細粒度的資料控制……與其他“將人工智慧應用於資料”的系統不同，Credal 自動複製與其存取的源系統的許可權，所以當使用者提出問題時，人工智慧僅從對該使用者而言既相關又可存取的公司檔案中回答。”
蓬勃發展，瞄準 AI 企業市場
自 4 月份推出以來，Fischer 稱 Credal 已處理了超過 25 萬次 LLM 呼叫，並吸納了大約 10 萬份企業檔案。當前公司已經有 11 個客戶，其中幾個客戶簽訂了“六位數位”的合同，根據 Fischer 所說。憑藉這輪種子融資，Credal 計劃擴大員工規模（當前只有五名員工），並“擴充套件產品以涵蓋更多資料源並執行更複雜的資料檢索”，Fischer 說道。Fischer 表示：“當前人工智慧行業在巨大的熱情和實際應用 LLMs 創造價值的公司數量之間存在相對不平衡的現象。Credal 正在透過與少數優秀企業緊密合作並解決其問題的方式來解決這個問題。”
關鍵詞：安全、Credal、公司資料、LLMs
延伸閱讀
- Opera 允許使用者下載並本地使用 LLMs
- Google 推出全新的開放 LLMs, Rivian 裁員，Signal 推出使用者名
- Artie 幫助公司快速實時同步資料，實現資料應用
- 亞馬遜 Bedrock 新增 Guardrails 功能，助力保障 LLMs
- LLMs 驚人地擅長壓縮影象和音訊，DeepMind 研究人員發現
- 深思研究顯示 LLMs 出奇的擅長壓縮影象與音訊
- Phalanx 自動保護和追蹤敏感檔案，全力守護公司資料
- Google 相片現在可以從多部裝置安全存取
- 如何在企業中減少生成式 AI 和 LLMs 的資料風險
- DynamoFL 籌集到 1510 萬美元，助力企業採納「合規」的 LLMs
