Gleen AI 融資 4.9 百萬美元，推出抗幻覺資料層軟體
問題背景：AI 幻覺的問題
隨著全球各組織迅速評估、測試並將生成式人工智慧（Generative AI）部署到他們的工作流程中——不論是後端、前端（面向客戶）還是兩者兼顧，許多決策者對一些仍然存在的問題感到擔憂，其中之一就是 AI 幻覺的問題。然而一家新的新創公司 Gleen AI 則聲稱“解決了幻覺”。
Gleen AI 的解決方案
Gleen AI 建立了一個獨立於客戶所選的生成式 AI 模型（LLM）的 AI 和機器學習（ML）層。這一層透過對企業內部資料進行安全篩選，將其轉化為向量資料庫，並利用這些資料來提升 AI 模型的回答質量。Gleen AI 的層實現了以下功能：
- 從多個來源（如幫助檔案、常見問題解答、產品規格、手冊、維基、論壇和過去的聊天記錄）匯總結構化和非結構化企業知識
- 對資料進行精選和提取關鍵事實，消除噪音和冗餘
- 構建知識圖，以理解實體之間的關係，從而檢索最相關的事實
- 在提供輸出之前，對比訓練模型的回答和精選事實
這一 AI 層在將回答提供給終端使用者之前，作為一個檢查點，對資料進行再次檢查。這消除了聊天機器人提供虛假或捏造訊息的風險。“我們只有在對事實具有高度自信的情況下才會啟用生成式 AI 模型，否則我們將坦白地告知使用者需要更多訊息，”Dubey 解釋道。此外 Gleen AI 的軟體還允許使用者快速建立面向客戶的客戶支援聊天機器人，並根據使用情景調整其“個性”。
Gleen AI 的應用前景
Gleen AI 已經在量子計算、加密等技術領域得到了使用，這些領域對準確性要求非常高。Gleen AI 提供了一個免費的“AI 遊樂場”，讓潛在客戶可以使用自己公司的資料建立自己定制的聊天機器人。對於更多公司希望利用生成式 AI 的強大功能，同時降低其潛在風險的客戶來說 Gleen AI 的準確性層可能為他們提供了部署準確性要求的生成式 AI 的途徑。
社論與建議
AI 幻覺問題是一個困擾決策者的重要問題。當企業依賴 AI 模型為員工或使用者提供準確資料時，生成式 AI 工具的幻覺回答可能帶來巨大風險。然而 Gleen AI 提供的抗幻覺資料層為解決這一問題提供了一個新的解決方案。
使用 Gleen AI 的資料層，企業可以透過整合和提取關鍵事實，避免 AI 模型產生幻覺回答。這一資料層作為 AI 回答的質量控制經理，可以在將回答提供給終端使用者之前對資料進行檢查，消除提供虛假或捏造訊息的風險。
然而我們也應該意識到，AI 技術仍然在發展中，幻覺問題只是其中一個挑戰。無論是 AI 技術的使用還是對 AI 技術進行監管，都需要保持警覺和謹慎。在使用 AI 模型的過程中，企業應該仔細考慮其應用場景，確保資料的準確性和可靠性，並提供充足的事實來避免幻覺問題的發生。
延伸閱讀
- 「Cino 突破帳單分攤難題，成功籌集種子輪資金！」
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
- Nomagic 獲得 4400 萬美元資金，AI 驅動的機器手臂技術將改變未來！
- 「Patlytics 爆出 1400 萬美元新資金，革新專利分析平臺！」
- Revel 獲得 6000 萬美元紐約州資金，用於擴建電動車充電站！
- 安德魯技術公司洽談籌集高達 25 億美元資金，估值達 280 億美元！
- Comstruct 獲得 1350 萬美元資金 助力建築企業簡化採購流程！
- 前 Autodesk 高層籲資 4,600 萬美元 開建立築設計新紀元！
- 資料中心運營商 DataBank 獲得 2.5 億美元投資 驚豔市場！
- 「MoneyHash 獲得 520 萬美元資金，助力中東與北非支付服務整合」
