Google 擴大漏洞獎勵計畫，納入生成式人工智慧的威脅
背景
Google 近日宣布將其漏洞獎勵計畫（VRP）擴大，納入生成式人工智慧（generative AI）的攻擊場景。此舉意在鼓勵針對人工智慧安全性和保密性的研究，並揭示潛在的問題，以使人工智慧更加安全。此漏洞獎勵計畫是 Google 對於合法駭客發現和負責任地揭示安全漏洞付款的方式。生成式人工智慧帶來的新風險
生成式人工智慧帶來了新的安全問題，如不公平的偏差可能性或模型操縱的潛在問題。為了重新思考漏洞應如何分類和報告，Google 表示他們正在利用最新成立的 AI Red Team 團隊的訊息。這個團隊是一群模擬各種對手的駭客，包括國家和政府支援的團體、駭客活動和惡意內部人員，他們的目標是尋找技術中的安全弱點。該團隊最近進行了一項實驗，以確保生成式人工智慧產品的技術背後的最大威脅，如 ChatGPT 和 Google Bard。 一項重大的威脅是大型語言模型（LLMs）易受提示注入攻擊的影響。這種攻擊方式是駭客構建對抗性提示，以影響模型的行為。攻擊者可以利用這種攻擊方式產生有害或冒犯性的文字，或者洩露敏感訊息。研究團隊還警告了另一種攻擊方式，稱為訓練資料提取，駭客可以透過重建訓練示例，從資料中提取個人身份訊息或密碼。Google 的擴大 VRP 範圍包括這兩種攻擊方式以及模型操縱和模型竊取攻擊。然而 Google 表示他們將不會向揭示與版權問題或重建非敏感或公共訊息的資料提取有關的漏洞的研究人員提供獎勵。獎金和報酬
Google 將根據發現漏洞的嚴重性來確保獎金和報酬。研究人員當前可以透過在高度敏感的應用程式（如 Google 搜尋或 Google Play）中發現命令注入攻擊和反序列化漏洞來賺取 31337 美元的獎金。如果漏洞影響優先線序較低的應用程式，最高獎金為 5000 美元。Google 表示他們在 2022 年向安全研究人員支付了超過 1200 萬美元的獎金。編輯評論
生成式人工智慧的快速發展帶來了潛在的安全風險，這一點不容忽視。在 Google 擴大漏洞獎勵計畫以納入生成式人工智慧的威脅後，我們可以看到 Google 對於人工智慧安全性的重視。 然而漏洞獎勵計畫仍然只是應對生成式人工智慧安全威脅的一個創新措施。生成式人工智慧帶來的風險覆蓋範圍極廣，包括社會和道德問題，需要從更深層次進行討論。人工智慧技術的發展應該符合道德原則，並服務於社會的整體利益。這需要更多的跨學科研究和政策制定的參與，以確保人工智慧的應用益於個人和全體人類。 另外我們應該注意到，漏洞獎勵計畫僅僅鼓勵合法駭客發現和揭示漏洞，這不足以應對所有可能的安全威脅。我們需要更多的行業合作和監管機構的參與，以創造一個更安全的人工智慧生態系統。此外如何平衡隱私和安全之間的關係也是一個重要的議題，這需要深入的討論和政策制定的支援。建議
針對生成式人工智慧的安全性和保密性問題，我們提出以下建議： - 學術界和產業界應加固合作，進行更多跨學科和跨界的研究，以解決生成式人工智慧帶來的安全挑戰。 - 相關的政策制定者應制定更加全面和明確的法規，以促進人工智慧的安全和道德發展。 - 鼓勵更多的漏洞獎勵計畫，以提供研究人員揭示漏洞並獲得獎金的機會。 - 加固教育和培訓，提高公眾對人工智慧安全和保密性的認識，並提供相應的解決方案。 總而言之，生成式人工智慧的安全問題需要進一步關注和解決。漏洞獎勵計畫是一個重要的舉措，但它僅僅是解決問題的開始。我們需要更多的全球合作和跨領域的參與，以確保人工智慧的發展為社會帶來更多的好處，同時保護我們的隱私和安全。Technologynews-Google,生成式人工智慧,威脅,獎金計畫,技術新聞
延伸閱讀
- OpenAI 與 Google 擺出競爭的 AI 願景
- 本週人工智慧大事記：OpenAI 轉向非安全應用
- Netflix 將建立自己的廣告伺服器挑戰 Google 和 Amazon
- Google 仍未修復 Gemini 偏見影像生成器
- Google 在 Android 上新增實時威脅檢測和螢幕分享保護
- Google 掃描通話的人工智慧或增加預設審查，隱私專家發出警告
- Google 推出新的 Private Space 功能，就像是 Android 版的無痕模式
- Google Maps 將於今年晚些時候推出地理空間增強實境內容
- Google I/O 2024：Google 剛宣布的所有重大訊息
- Google 發布 AI 動態威脅檢測服務，打擊 Android 惡意軟體
