AI 幻覺挑戰：Vectara 推出新技術 Boomerang 以降低 AI 幻覺風險
引言
AI 技術的快速發展為企業帶來了許多創新和效能提升的機會。然而 AI 幻覺（AI hallucinations）的問題成為企業採用 AI 的一大挑戰。Vectara 是一家致力於解決 AI 幻覺問題的組織，它於 2022 年 10 月首次亮相，由大資料供應商 Cloudera 的聯合創始人領軍。該公司最近推出了一項名為 Boomerang 的新技術，旨在透過建立向量嵌入模型來提高 AI 模型的準確度並降低幻覺風險。
解決 AI 幻覺的探索
Vectara 的目標是開發一種全新的技術，以減少 AI 幻覺的風險，並為企業提供更準確、可靠的結果。該公司首先透過更新其生成式 AI 平臺，引入了一種基於內容的檢索增強產生（RAG）的能力，為 AI 模型提供更可靠的生成結果。現在該公司的 Boomerang 技術進一步提升了 AI 模型的準確度，並成為了其新一代的神經資訊檢索模型。
Boomerang：進一步提高向量嵌入技術
Boomerang 技術是 Vectara 開發的一種新型模型，用於生成代表文字背後意義的向量嵌入，而不受語言約束。生成向量嵌入的過程對於 AI 模型的準確度至關重要，大型語言模型（LLM）供應商都在該領域進行了研究和改進。Vectara 的 Boomerang 技術在之前的版本基礎上進行了升級，增強了向量嵌入的質量和準確度。
Boomerang 技術的核心優勢
Boomerang 技術的核心優勢在於它提供更準確、可靠的事實。由於向量嵌入的質量提高，AI 幻覺的可能性減少，並且輸出結果的可解釋性也得到了提升。這對企業來說非常重要，因為準確的結果和可解釋性對於業務的順利運營至關重要。
Boomerang 技術的研發過程
Boomerang 技術的研發過程非常複雜，Vectara 團隊在開發過程中應用了大量新技術、多樣化的訓練資料以及試錯的經驗。Vectara 的聯合創始人與 CTO Amin Ahmad 表示他們正計劃公開一些研究論文，詳細介紹 Boomerang 技術的特點和創新方法。Vectara 的執行長 Amr Awadallah 則補充說，該公司已經發現了一些新技術，並將在未來的學術研究中公開詳細介紹。
Boomerang 技術的應用前景
Vectara 聲稱，其 Boomerang 技術在跨語言檢索方面超越了其他大型模型，能夠更好地理解數百種語言和方言的內容。儘管更新的平臺在減少幻覺風險方面取得了一定的進展，但 Vectara 仍然有待進一步的研究。Awadallah 表示：“幻覺不能為 0%，我們希望能夠將其最小化，這對於業務環境來說至關重要。”
報導與評論
AI 幻覺問題對於企業 AI 的應用來說確實是一大挑戰。與其它企業一樣，Vectara 也致力於解決這個問題並提供更準確的結果。Boomerang 技術的引入為 Vectara 的 GenAI 平臺帶來了更高的準確度，並在其基礎上進一步提升了準確度。
Boomerang 技術的研發過程非常複雜，Vectara 團隊透過引入新技術和多樣化的訓練資料，使 Boomerang 技術成為一種具有更高質量和準確度的向量嵌入方法。Boomerang 技術在向量嵌入方面的卓越效能使其能夠超越其他大型模型，在跨語言檢索方面表現出色。這使得 Vectara 能夠更好地理解數百種語言和方言的內容。
然而值得注意的是，雖然 Boomerang 技術在減少幻覺風險方面取得了一定的進展，但幻覺問題仍然存在。Vectara 團隊表示他們將繼續進行研究，以找到進一步降低幻覺風險的方法。
結論與建議
AI 幻覺問題對於企業 AI 的應用來說是一個重大挑戰。Vectara 的 Boomerang 技術無疑是一個重要的突破，可以提高 AI 模型的準確度並減少幻覺風險。
建議 Vectara 繼續進行研究，以尋找更多降低幻覺風險的方法。同時與其他 AI 技術提供商分享研究成果和最佳實踐，促進整個行業對於幻覺問題的關注。
企業在採用 AI 技術時應該更加謹慎，投資足夠的時間和資源進行取證並尋找可靠的 AI 技術夥伴。除了技術方面的考慮，企業還應該重視對 AI 技術的風險管理和倫理道德的重視，確保 AI 技術的應用符合合法、合規的準則。
延伸閱讀
- AI 與影片履歷助力初入職場的新鮮人找到工作！
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 亞馬遜成立新型代理 AI 團隊，將如何改變科技未來？
- 「搶先報名！TechCrunch Sessions: AI 演講者申請截止日期迫在眉睫！」
- MWC 最新報導：AI 影響力的兩極化觀點首次曝光！
- 亞馬遜新推出 Alexa+：為孩子們帶來 AI 驅動的「探索」與「故事」新功能！
- Bridgetown Research 載著 AI 助力，成功募資 1900 萬美元加速盡職調查！
- Nomagic 獲得 4400 萬美元資金，AI 驅動的機器手臂技術將改變未來！
- 全方位理解 Anthropic 的 AI：揭開 Claude 的神祕面紗！
- 微軟刪除 AI 資料中心租賃，背後原因何在？
