Google 暫停 AI 工具 Gemini 對歷史人物影象的生成，希望在未來幾週內解決多樣性問題
作者：
根據最新報導，Google 對於其多模式生成 AI 工具 Gemini 的能力很有希望，可以在未來幾週內“解除暫停”，並再次生成人物影象。這項訊息來自 DeepMind 創始人迪米斯·哈薩比斯的表示。哈薩比斯說，人們很快就可以線上上使用 Gemini 對影象進行提示。
技術更新
Gemini 的能力上周因使用者指出該工具生成的影象問題而被暫停。例如，出現了將美國開國元勳描繪成一個多元化的團體，而不僅僅是白人男性的歷史情況。在今天的巴塞羅那世界移動大會上，在一次與《連線》雜志的史蒂文·萊維進行的現場訪談中，哈薩比斯就產品失誤的問題作出了回應。
產品失誤
對於影象生成功能出現問題的原因，哈薩比斯並沒有提供詳細的技術解釋，而是建議該問題是因為 Google 未能識別當使用者基本上在搜尋“通用描繪”時所導致的。他還指出，“這是一個我們都在努力應對的領域。所以，如果你，例如，提出要求，給我一張遛狗的人或在醫院的護士的照片，對於這些情況，你顯然想要一種‘通用描繪’。特別是當你考慮到作為 Google，我們服務於 200 多個國家，你不知道使用者來自何處，他們的背景是什麼，或者他們所處的情境是什麼。因此你想展示一個非常通用的可能性範圍。”哈薩比斯表示該問題歸結為一個“本來好意的功能”——即在 Gemini 的人物影象輸出中促進多樣性——被“過於粗糙地應用在所有方面”。他補充說，要求有關歷史人物的提示當然應該產生“更狹窄的分佈”並指出了 Gemini 將來可能如何應對有關人物的提示的暗示。他說，“我們當然關心歷史的準確性。因此我們在修復這個問題的過程中將該功能下線，並希望在接下來的短期內，很快恢復線上。未來幾週內。”
倫理探討
此外哈薩比斯提到了防止生成式 AI 工具被惡意使用的挑戰。對於如何防止威權政體等惡意使用者利用 AI 工具散佈宣傳，他表示這個問題“非常複雜”，可能需要全社會的動員和回應來確保和強制執行約束。他說：“這需要進行非常重要的研究和辯論，不僅是技術公司，也包括民間社會和政府。”
未來展望
哈薩比斯的談話還提到了對 AI 裝置和移動市場前景的思考，他預測了一波“下一代智慧助手”的浪潮，這些智慧助手將對人們的日常生活產生實際幫助，而不再像之前的 AI 助手那樣“花哨”，甚至可能重新塑造人們選擇攜帶的移動硬體。他暗示說：“我認為甚至會有對於什麼是正確的裝置型別的問題出現。”
結論
在技術不斷進步的時代，AI 技術必須被嚴格監管，並應該在全球範圍內進行討論和研究。除了技術公司，政府和民間社會都需要參與這個討論，以確保這些系統所具有的價值和代表性，並找出防止惡意利用的方式。
延伸閱讀
- Google 推出新功能“口語練習”，利用人工智慧幫助使用者提高英文能力
- Google 支援的 Glance 在美國試點推出 Android 鎖定屏平臺
- Google 解僱 28 名員工，因為他們爭議性的 Project Nimbus 合同與以色列引發的靜坐抗議
- 印度加快步伐抑制 PhonePe 和 Google 在手機支付領域的壟斷
- Google 雲端大會：Google 全力開發生成式人工智慧
- Spotify 推出 AI 動力播放清單功能
- Google 首次宣布 Axion，其自家定制 Arm 架構資料中心處理器
- Google 計劃透過兩款新的 10 美元 Workspace 附加元件來實現 AI 的盈利化
- Google 將生成式人工智慧技術注入其雲安全工具
- Google 的 Gemini Pro 1.5 進入 Vertex AI 的公開預覽
