Google 暫停 AI 工具 Gemini 對歷史人物影象的生成,希望在未來幾週內解決多樣性問題
作者:
根據最新報導,Google 對於其多模式生成 AI 工具 Gemini 的能力很有希望,可以在未來幾週內“解除暫停”,並再次生成人物影象。這項訊息來自 DeepMind 創始人迪米斯·哈薩比斯的表示。哈薩比斯說,人們很快就可以線上上使用 Gemini 對影象進行提示。
技術更新
Gemini 的能力上周因使用者指出該工具生成的影象問題而被暫停。例如,出現了將美國開國元勳描繪成一個多元化的團體,而不僅僅是白人男性的歷史情況。在今天的巴塞羅那世界移動大會上,在一次與《連線》雜志的史蒂文·萊維進行的現場訪談中,哈薩比斯就產品失誤的問題作出了回應。
產品失誤
對於影象生成功能出現問題的原因,哈薩比斯並沒有提供詳細的技術解釋,而是建議該問題是因為 Google 未能識別當使用者基本上在搜尋“通用描繪”時所導致的。他還指出,“這是一個我們都在努力應對的領域。所以,如果你,例如,提出要求,給我一張遛狗的人或在醫院的護士的照片,對於這些情況,你顯然想要一種‘通用描繪’。特別是當你考慮到作為 Google,我們服務於 200 多個國家,你不知道使用者來自何處,他們的背景是什麼,或者他們所處的情境是什麼。因此你想展示一個非常通用的可能性範圍。”哈薩比斯表示該問題歸結為一個“本來好意的功能”——即在 Gemini 的人物影象輸出中促進多樣性——被“過於粗糙地應用在所有方面”。他補充說,要求有關歷史人物的提示當然應該產生“更狹窄的分佈”並指出了 Gemini 將來可能如何應對有關人物的提示的暗示。他說,“我們當然關心歷史的準確性。因此我們在修復這個問題的過程中將該功能下線,並希望在接下來的短期內,很快恢復線上。未來幾週內。”
倫理探討
此外哈薩比斯提到了防止生成式 AI 工具被惡意使用的挑戰。對於如何防止威權政體等惡意使用者利用 AI 工具散佈宣傳,他表示這個問題“非常複雜”,可能需要全社會的動員和回應來確保和強制執行約束。他說:“這需要進行非常重要的研究和辯論,不僅是技術公司,也包括民間社會和政府。”
未來展望
哈薩比斯的談話還提到了對 AI 裝置和移動市場前景的思考,他預測了一波“下一代智慧助手”的浪潮,這些智慧助手將對人們的日常生活產生實際幫助,而不再像之前的 AI 助手那樣“花哨”,甚至可能重新塑造人們選擇攜帶的移動硬體。他暗示說:“我認為甚至會有對於什麼是正確的裝置型別的問題出現。”
結論
在技術不斷進步的時代,AI 技術必須被嚴格監管,並應該在全球範圍內進行討論和研究。除了技術公司,政府和民間社會都需要參與這個討論,以確保這些系統所具有的價值和代表性,並找出防止惡意利用的方式。
延伸閱讀
- Google 為 Android 打造了一些最早期的社交應用程式,包括 Twitter 和其他應用
- Google 為 iPhone 使用者帶來「圈選搜尋」新變化
- Google 錢包正式登陸印度市場
- Google 新推出預算款 Pixel 8a,更新硬體配置,售價 499 美元
- Google 稱 Epic 在反壟斷訴訟勝訴後的要求「不必要」和「超出判決範圍」
- Google 擴大 Passkey 支援,提前爲美國總統大選加固保護計畫
- Google 裁員 Flutter、Dart 和 Python 團隊,開發者大會前數週 in traditional Chinese
- Google 裁員 Flutter、Dart 和 Python 工程師,開發者大會前夕訊息爆發
- Google 推出新功能“口語練習”,利用人工智慧幫助使用者提高英文能力
- Google 支援的 Glance 在美國試點推出 Android 鎖定屏平臺