Gleen AI 融資 4.9 百萬美元，推出抗幻覺資料層軟體
問題背景：AI 幻覺的問題
隨著全球各組織迅速評估、測試並將生成式人工智慧（Generative AI）部署到他們的工作流程中——不論是後端、前端（面向客戶）還是兩者兼顧，許多決策者對一些仍然存在的問題感到擔憂，其中之一就是 AI 幻覺的問題。然而一家新的新創公司 Gleen AI 則聲稱“解決了幻覺”。
Gleen AI 的解決方案
Gleen AI 建立了一個獨立於客戶所選的生成式 AI 模型（LLM）的 AI 和機器學習（ML）層。這一層透過對企業內部資料進行安全篩選，將其轉化為向量資料庫，並利用這些資料來提升 AI 模型的回答質量。Gleen AI 的層實現了以下功能：
- 從多個來源（如幫助檔案、常見問題解答、產品規格、手冊、維基、論壇和過去的聊天記錄）匯總結構化和非結構化企業知識
- 對資料進行精選和提取關鍵事實，消除噪音和冗餘
- 構建知識圖，以理解實體之間的關係，從而檢索最相關的事實
- 在提供輸出之前，對比訓練模型的回答和精選事實
這一 AI 層在將回答提供給終端使用者之前，作為一個檢查點，對資料進行再次檢查。這消除了聊天機器人提供虛假或捏造訊息的風險。“我們只有在對事實具有高度自信的情況下才會啟用生成式 AI 模型，否則我們將坦白地告知使用者需要更多訊息，”Dubey 解釋道。此外 Gleen AI 的軟體還允許使用者快速建立面向客戶的客戶支援聊天機器人，並根據使用情景調整其“個性”。
Gleen AI 的應用前景
Gleen AI 已經在量子計算、加密等技術領域得到了使用，這些領域對準確性要求非常高。Gleen AI 提供了一個免費的“AI 遊樂場”，讓潛在客戶可以使用自己公司的資料建立自己定制的聊天機器人。對於更多公司希望利用生成式 AI 的強大功能，同時降低其潛在風險的客戶來說 Gleen AI 的準確性層可能為他們提供了部署準確性要求的生成式 AI 的途徑。
社論與建議
AI 幻覺問題是一個困擾決策者的重要問題。當企業依賴 AI 模型為員工或使用者提供準確資料時，生成式 AI 工具的幻覺回答可能帶來巨大風險。然而 Gleen AI 提供的抗幻覺資料層為解決這一問題提供了一個新的解決方案。
使用 Gleen AI 的資料層，企業可以透過整合和提取關鍵事實，避免 AI 模型產生幻覺回答。這一資料層作為 AI 回答的質量控制經理，可以在將回答提供給終端使用者之前對資料進行檢查，消除提供虛假或捏造訊息的風險。
然而我們也應該意識到，AI 技術仍然在發展中，幻覺問題只是其中一個挑戰。無論是 AI 技術的使用還是對 AI 技術進行監管，都需要保持警覺和謹慎。在使用 AI 模型的過程中，企業應該仔細考慮其應用場景，確保資料的準確性和可靠性，並提供充足的事實來避免幻覺問題的發生。
延伸閱讀
- Anthropic 的 Claude 在 iOS 平臺上的推出獲得微弱反韇，與 ChatGPT 的首次亮相相比
- 微軟將於七月推出手機遊戲商店
- 「告別擊敗？Threads 為所有使用者推出引文控制功能」
- 全球創始人資本將使用 Rocket Internet 的資金，而非籌措新基金
- X 公司即將推出影片的電視應用程式
- Meta 宣布其 Llama 3 開源 LLM 將在下個月推出
- Uber Eats 推出類似 TikTok 的影片功能，提升發現體驗
- Nsave 獲得 400 萬美元資金，幫助來自不穩定經濟地區的人們開立離岸帳戶
- Spotify 確認在部分國家推出音樂影片功能
- 超級 AGI 從 Jan Koum 的 Newlands VC 獲得資金，為其全棧 AGI 野心注入動力
