AI 幻覺挑戰：Vectara 推出新技術 Boomerang 以降低 AI 幻覺風險
引言
AI 技術的快速發展為企業帶來了許多創新和效能提升的機會。然而 AI 幻覺（AI hallucinations）的問題成為企業採用 AI 的一大挑戰。Vectara 是一家致力於解決 AI 幻覺問題的組織，它於 2022 年 10 月首次亮相，由大資料供應商 Cloudera 的聯合創始人領軍。該公司最近推出了一項名為 Boomerang 的新技術，旨在透過建立向量嵌入模型來提高 AI 模型的準確度並降低幻覺風險。
解決 AI 幻覺的探索
Vectara 的目標是開發一種全新的技術，以減少 AI 幻覺的風險，並為企業提供更準確、可靠的結果。該公司首先透過更新其生成式 AI 平臺，引入了一種基於內容的檢索增強產生（RAG）的能力，為 AI 模型提供更可靠的生成結果。現在該公司的 Boomerang 技術進一步提升了 AI 模型的準確度，並成為了其新一代的神經資訊檢索模型。
Boomerang：進一步提高向量嵌入技術
Boomerang 技術是 Vectara 開發的一種新型模型，用於生成代表文字背後意義的向量嵌入，而不受語言約束。生成向量嵌入的過程對於 AI 模型的準確度至關重要，大型語言模型（LLM）供應商都在該領域進行了研究和改進。Vectara 的 Boomerang 技術在之前的版本基礎上進行了升級，增強了向量嵌入的質量和準確度。
Boomerang 技術的核心優勢
Boomerang 技術的核心優勢在於它提供更準確、可靠的事實。由於向量嵌入的質量提高，AI 幻覺的可能性減少，並且輸出結果的可解釋性也得到了提升。這對企業來說非常重要，因為準確的結果和可解釋性對於業務的順利運營至關重要。
Boomerang 技術的研發過程
Boomerang 技術的研發過程非常複雜，Vectara 團隊在開發過程中應用了大量新技術、多樣化的訓練資料以及試錯的經驗。Vectara 的聯合創始人與 CTO Amin Ahmad 表示他們正計劃公開一些研究論文，詳細介紹 Boomerang 技術的特點和創新方法。Vectara 的執行長 Amr Awadallah 則補充說，該公司已經發現了一些新技術，並將在未來的學術研究中公開詳細介紹。
Boomerang 技術的應用前景
Vectara 聲稱，其 Boomerang 技術在跨語言檢索方面超越了其他大型模型，能夠更好地理解數百種語言和方言的內容。儘管更新的平臺在減少幻覺風險方面取得了一定的進展，但 Vectara 仍然有待進一步的研究。Awadallah 表示：“幻覺不能為 0%，我們希望能夠將其最小化，這對於業務環境來說至關重要。”
報導與評論
AI 幻覺問題對於企業 AI 的應用來說確實是一大挑戰。與其它企業一樣，Vectara 也致力於解決這個問題並提供更準確的結果。Boomerang 技術的引入為 Vectara 的 GenAI 平臺帶來了更高的準確度，並在其基礎上進一步提升了準確度。
Boomerang 技術的研發過程非常複雜，Vectara 團隊透過引入新技術和多樣化的訓練資料，使 Boomerang 技術成為一種具有更高質量和準確度的向量嵌入方法。Boomerang 技術在向量嵌入方面的卓越效能使其能夠超越其他大型模型，在跨語言檢索方面表現出色。這使得 Vectara 能夠更好地理解數百種語言和方言的內容。
然而值得注意的是，雖然 Boomerang 技術在減少幻覺風險方面取得了一定的進展，但幻覺問題仍然存在。Vectara 團隊表示他們將繼續進行研究，以找到進一步降低幻覺風險的方法。
結論與建議
AI 幻覺問題對於企業 AI 的應用來說是一個重大挑戰。Vectara 的 Boomerang 技術無疑是一個重要的突破，可以提高 AI 模型的準確度並減少幻覺風險。
建議 Vectara 繼續進行研究，以尋找更多降低幻覺風險的方法。同時與其他 AI 技術提供商分享研究成果和最佳實踐，促進整個行業對於幻覺問題的關注。
企業在採用 AI 技術時應該更加謹慎，投資足夠的時間和資源進行取證並尋找可靠的 AI 技術夥伴。除了技術方面的考慮，企業還應該重視對 AI 技術的風險管理和倫理道德的重視，確保 AI 技術的應用符合合法、合規的準則。
延伸閱讀
- OpenAI 考慮允許 AI 色情內容？
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
