人工智慧（AI）正在企業界興風作浪
今年，大型企業對於人工智慧（AI）工具感到更加樂觀和有興趣的調查層出不窮。一些公司在 OpenAI 的 ChatGPT 推出以來的六個多月裡，已經開始將大部分工作人員與 AI 投入合作中。然而隨著企業和員工們對如何安全地進行 AI 實驗的掙扎，一些警示故事也及時出現，回憶起三星員工分享機密訊息、律師尋求 ChatGPT 諮詢時獲得的編造的審判案例以及最近一個「健康聊天機器人」因向至少一位使用者提供與飲食失調和節食相關的「有害」回答而被下架。幸運的是，有許多軟體供應商正在努力解決這些問題。
Armilla AI 致力於解決 AI 問題
其中一家軟體供應商是三年前由前微軟高級軟體開發主管 Dan Adamson、前 Deloitte 加拿大高級經理 Karthik Ramakrishnan 和自然語言處理研究員兼政府承包商 Rahm Hafiz 共同創辦的 Armilla AI。這家公司得到了著名的 YCombinator 初創加速器的支援。
Armilla AI 今天宣布推出其新產品 AutoAlign，這是一個基於 Web 的平臺，用於微調流行的開源語言模型（LLM）（如 LLaMA 和 Red Pajama）和具有 HuggingFace 介面的內部組織 LLM，以減少幻覺和有害回答，消除偏見。
AutoAlign 的功能
AutoAlign 是一個「低程式碼」解決方案，可以由企業內部的人員使用，無需太多的技術培訓。該工具可以安裝在組織的私有雲伺服器上，完全保密，或者用於面向客戶的公共網站，但無論哪種情況，都可以保護個人身份訊息（PII）或其他敏感和加密資料的安全性。
AutoAlign 能夠微調各種開源 LLM，使其在被啟用時不再認為經理是男性，而是產生了更中性的回應。「低程式碼」解決方案允許使用者設定新的「對齊目標」，例如回應不應該基於經理的性別來假設，並最佳化模型的訓練以適應這些目標。
此外該平臺還能夠設定防護措施，避免商業化的 LLM 出現問題，例如 OpenAI 的 ChatGPT-3.5 和 4。如果使用者將 LLM 欺騙，要求其提供危險訊息，AutoAlign 的防護措施可以防止模型向終端使用者提供有害回答。同樣地，AutoAlign 的防護措施也可以檢測並防止企業中的 AI 幻覺。
Armilla AI 的客戶群和擴充套件計劃
Armilla 已經允許部分客戶測試 AutoAlign，並計劃以訂閱形式更廣泛地提供此服務。定價將根據客戶組織的資料量和實施要求而定，年度價格為「10,000 美元及以上」。該公司過去一直與金融服務、人力資源部門的客戶合作以及密切關注新聞來源偏見的媒體機構和建立品牌知名度活動的視覺生成軟體公司。該公司主要在北美市場執行，但已經在歐洲聯盟開始工作，Adamson 稱其軟體符合 GDPR 的要求。
評論與建議
隨著人工智慧技術的快速發展，我們迎來了許多令人興奮和有潛力的應用。然而我們也必須意識到這些新技術所帶來的風險和挑戰。在使用 AI 工具時，保障資料隱私和降低誤導回答的風險非常重要。
Armilla AI 的 AutoAlign 平臺提供了一種解決方案，可以讓企業在使用 AI 模型之前進行測試和評估，從而提高模型的效能和安全性。透過微調模型的訓練目標，AutoAlign 能夠減少幻覺回答和偏見，從而提供更加客觀和中性的回應。
此外 AutoAlign 還可以設定防護措施，防止模型出現有害回答。這對於企業保護敏感訊息和防止誤導性回答非常重要。企業可以透過進一步的測試和檢查，確保 AI 模型在實際應用中不會給使用者帶來負面影響。
然而這只是一個解決方案的一小步。我們需要更多的討論和努力，以確保人工智慧的應用始終都是安全和負責任的。政府、企業和學術界應該共同努力，制定相應的法律法規和準則，以保護使用者隱私、維護公平和防止濫用。
同時我們也需要加固對人工智慧技術的理解和掌握。非技術人員也應該加固對於人工智慧問題的認識，這樣才能更好地應對其帶來的挑戰和風險。Armilla AI 的 AutoAlign 平臺正是針對這一需求而開發的，將 AI 技術的應用領域擴大到更多的人身上。
結論
人工智慧是一把雙刃劍，既能為我們帶來巨大的價值，也可能造成傷害。Armilla AI 的 AutoAlign 平臺為我們提供了一個解決方案，可以幫助企業測試、評估和提升 AI 模型的效能和安全性。然而保護資料隱私和防止誤導回答的工作還需要更多的努力和關注。我們每個人都有責任確保人工智慧的應用始終都是負責任和安全的。
延伸閱讀
- ChatGPT 在歐盟再次遭遇隱私投訴，「幻覺」問題再起風波
- NFT 平臺 Zora 提供了一種新的賺錢方式，適合 AI 模型製作者
- 史上最大的文字轉語音 AI 模型體現「新興能力」
- 玻璃智慧改良智慧手機相機，AI 功能升級不會出現幻覺
- 研究發現：人類學家發現 AI 模型可以被訓練成欺騙者
- Google 首款搭載全新 AI 模型 Gemini 的智慧手機--Pixel 8 Pro
- Google 的 AI 聊天機器人 Bard 進行大幅升級，搭載 Google 的下一代 AI 模型 Gemini
- Google 布局生成式 AI 模型，但「Gemini」並非我們期待的模型
- 亞馬遜推出新晶片，用於訓練和執行 AI 模型
- Giskard 開源框架在將 AI 模型推向生產前進行評估
