Google DeepMind 成立新的 AI 安全組織
深入分析
Google DeepMind 最近宣布成立一個新組織，名為 AI Safety and Alignment，專注於人工智慧（AI）安全。這項舉措出現在政策制定者對於 GenAI 工具被濫用以散布假訊息的不滿之際，也反映了 Google 對於 AI 應用的擔憂。他們表示這個新組織將主要關注領域包括 AI 安全、預防誤導性醫療建議、確保兒童安全以及避免偏見和不公義的進一步擴大等範疇。專家意見
Anca Dragan，AI Safety and Alignment 的負責人，指出他們的工作目標在於使 AI 模型更好地理解人類的偏好和價值觀以及更堅固地抵禦對抗性攻擊。然而她也坦言這是一個充滿挑戰的工作。產業影響
市場調查顯示，企業對於 GenAI 應用存在著擔心，特別是在合規性和隱私保護、可靠性、高昂的實施成本以及缺乏運用這些工具所需的技術技能等方面。此外 AI 模型的錯誤也可能導致公司做出基於不正確訊息的決策。技術挑戰
專家認為 GenAI 模型可能存在無法解決的幻覺問題，例如 Microsoft 的 Copilot 套件就在會議摘要和試算表公式方面出現了一些錯誤。深度學習模型的幻覺問題可能永遠無法完全解決。總結及建議
業界前瞻
AI 安全是一個複雜的課題，需要從技術、法律和倫理角度來進行全面考量。我們建議 Google DeepMind 在成立 AI Safety and Alignment 組織後，應加固與行業合作，共同制定相關的監管標準和最佳實踐。同時企業在使用 GenAI 模型時應謹慎行事，重視資料品質和模型的穩定性，並積極提升內部相關技能。最終建議
在 AI 安全領域，透明度和責任是至關重要的。我們期待 Google DeepMind 能夠展示領導力，在 AI 安全方面取得積極進展，以確保 AI 技術的健康發展並為社會帶來更多的價值。AISecurity-人工智慧、GoogleDeepMind、安全、組織
延伸閱讀
- 元 AI 測試：未能彰顯自身價值，但免費就是免費
- Google 推出新功能“口語練習”，利用人工智慧幫助使用者提高英文能力
- 科技巨頭 xAI 競爭開放人工智慧，吸金 60 億美元。推動社交網路 X 成為股東
- Xaira：AI 藥物發現新創公司以 10 億美元巨額啟動，宣稱已準備好開展藥物開發
- Rabbit 宣布推出一個迷人的小型 AI 裝置：R1
- Perplexity AI 可能價值高達 30 億美元，原因在於…
- 基於人工智慧時代，Anon 正在打造自動化認證層 - 技術新聞
- Snowflake 推出自家旗艦生成式人工智慧模型
- Parloa 完成 6600 萬美元融資，打造客服對話人工智慧平臺
- Perplexity 籌集超過 2.5 億美元，估值達 25-30 億美元，用於其人工智慧搜尋平臺
