Guardrails AI：致力於解決 GenAI 模型問題的眾包檢修
引言
近期，GenAI 模型因言辭不實、扭曲事實而引發爭議，例如微軟和 Google 的聊天機器人在比賽開始前就宣布超級碗冠軍。然而當 GenAI 的幻覺開始對於社會造成不良影響時，比如支援酷刑、強化種族刻板印象、寫作力挺陰謀論，才是真正的問題所在。許多廠商，從顯示卡業的領導者如英倫、Salesforce 到初創企業如 CalypsoAI，都聲稱能夠減緩 GenAI 不良內容的產品。然而這些產品卻是一個個封閉式黑盒子，除非逐一進行獨立測試，否則難以得知這些應對幻覺的產品如何相比以及它們是否真正履行了所宣稱的功能。
創辦人的思路
Shreya Rajpal 認為這是一個重大問題，因此創立了 Guardrails AI 公司，嘗試解決這個問題。隨著 GenAI 日益普及，有調查顯示複雜性和風險是組織採用 GenAI 技術的主要障礙之一。Intel 子公司 Cnvrg.io 最近的一項調查發現，合規性和隱私、可靠性、實施成本高以及技術技能短缺是約四分之一的公司實施 GenAI 應用時關心的問題。風險管理軟體提供商 Riskonnect 的另一項調查顯示，超過一半的高管擔心員工基於 GenAI 工具提供的不準確訊息做出決策。
Guardrails AI 的解決方案
Guardrails AI 提供的解決方案雖然在某種程度上並不與市場上的產品有太大不同，但其企業模式是開源的，也就是說該平臺的程式碼可在 GitHub 上免費使用，另一個不同點是採用了眾包的方式。透過 Guardrails Hub 這一市場，Guardrails 允許開發人員提交名為“取證器”的模組化元件，這些元件會針對 GenAI 模型的某些行為、合規性和效能指標進行檢測。不令人驚訝的是，Guardrails 最近籌集了 750 萬美元種子輪融資，這些資金將用於擴大 Guardrails 六人團隊的規模以及進一步開源專案。
眾包模型守護欄的價值
模型守護欄的經典解決思路，他們就是希望透過簡單的規則檢查和檢測和最佳化模型問題所在。在眾包社區裡，這有如一座大型的想法市場，大家可以相互分享知識和找到最有效的 AI 部署方式，同時也可以構建一套可以再使用的守護欄，讓任何組織都可以採用這套方案。
不同觀點與問題
有人擔憂著眾包的方式是否能夠吸引開發人員進行貢獻，且這樣一個新興的平臺能否成功。而 Rajpal 樂觀地認為，即使沒有任何形式的報酬，開發人員也會幫忙，這是出於認可和無私地幫助整個行業達成“更安全”的 GenAI 目標。從這一角度來看，眾包這個平臺對於大家都能夠看到各個企業正在遇到的風險以及他們為解決和減少這些風險所制定的模型守護欄是有益的。這些取證器是企業應用到其用例中的開源實施所構成的一個保障欄。
結論
Guardrails AI 的出現為 GenAI 的未來發展指明了一條新的道路。眾包的方式為企業提供了一個共同的平臺，透過分享知識和技術，共同解決 GenAI 應用中所存在的問題。這種開放、包容的方式將為 GenAI 應用帶來穩健的發展，同時也為企業實現更可靠、更安全的人工智慧應用提供了新的思路。Guardrails AI 的成功將為整個 GenAI 行業帶來巨大的積極變化與革新。
延伸閱讀
- 元 AI 測試：未能彰顯自身價值，但免費就是免費
- Google 推出新功能“口語練習”，利用人工智慧幫助使用者提高英文能力
- 科技巨頭 xAI 競爭開放人工智慧，吸金 60 億美元。推動社交網路 X 成為股東
- Xaira：AI 藥物發現新創公司以 10 億美元巨額啟動，宣稱已準備好開展藥物開發
- Rabbit 宣布推出一個迷人的小型 AI 裝置：R1
- Perplexity AI 可能價值高達 30 億美元，原因在於…
- 基於人工智慧時代，Anon 正在打造自動化認證層 - 技術新聞
- Snowflake 推出自家旗艦生成式人工智慧模型
- Parloa 完成 6600 萬美元融資，打造客服對話人工智慧平臺
- Perplexity 籌集超過 2.5 億美元，估值達 25-30 億美元，用於其人工智慧搜尋平臺
