AI 模型訓練資料引發藝術家的反對
背景
近一年來，隨著 ChatGPT 的出現，生成式人工智慧（AI）進入了快速發展的時代，但反對聲音也越來越大。一些藝術家、娛樂人士、表演者甚至唱片公司已對 AI 公司提起訴訟，其中一些訴訟針對 ChatGPT 的開發商 OpenAI，原因是背後的「祕密醬料」：訓練資料。也就是說，這些 AI 模型在沒有存取大量多媒體資料並學習之前是無法常規執行的，這些資料包括藝術家創作的文字材料和影象，這些藝術家既沒有事先知情，也沒有機會反對他們的作品被用來訓練新的商業 AI 產品。藝術家的抵制與反擊
在 AI 模型的訓練資料集中，許多資料是透過從網路上爬取材料而得到的，藝術家們之前在將材料索引為搜尋結果時對此大多支援，但現在許多人已經反對此舉，因為它使得 AI 能夠創作出競爭性的作品。然而即使沒有提起訴訟，藝術家們還有機會利用技術對抗 AI。MIT Technology Review 獲得了一種仍在開發中的新開源工具 Nightshade 的獨家介紹，藝術家可以在將影象上傳到網路之前將其新增到其影象中，以一種對人眼不可見的方式改變畫素，但對於任何嘗試訓練 AI 模型的人來說這將「污染」這些影象。Nightshade 的原理與應用
Nightshade 由芝加哥大學電腦科學教授 Ben Zhao 及其團隊開發，它是他們之前的作品 Glaze 的一個可選設定，它是另一個線上工具，可以掩蓋數位藝術品並改變其畫素，以混淆 AI 模型對其風格的認知。與 Glaze 不同，Nightshade 將進一步對抗 AI，它讓 AI 模型學習到錯誤的物體和場景名稱。例如，研究人員將狗的影象中新增訊息，使其在 AI 模型看來像一只貓。經過對 50 個這樣訓練過的影象進行取樣和學習後，AI 開始生成具有奇怪腿和令人不安外觀的狗的影象。經過 100 個訓練樣本，當使用者要求一只狗時，它可靠地生成一只貓。經過 300 個訓練樣本後，任何對貓的要求都將返回一只幾乎完美的狗的影象。 研究人員使用一種名為 Stable Diffusion 的開源文字到影象生成模型對 Nightshade 進行測試，並獲得了上述結果。由於生成式 AI 模型的工作方式的特殊性，即透過將相似概念的詞語和想法分組為稱為「嵌入」的空間簇，Nightshade 還能夠引導 Stable Diffusion 在收到「哈士奇」、「小狗」和「狼」字詞時生成貓的影象。此外 Nightshade 的資料污染技術很難被防禦，因為它要求 AI 模型開發者淘汰包含有毒畫素的任何影象，這些毒素對人眼來說並不明顯，甚至可能連軟體資料爬取工具也難以檢測。任何已經納入 AI 訓練資料集的已污染影象也需要被檢測並移除，如果 AI 模型已經在它們上訓練，那麼它可能需要重新訓練。研究人員的期望
研究人員認識到他們的研究可能被用於惡意用途，但他們在 MIT Tech Review 的文章中表示他們的希望是透過創造一種強有力的威懾手段，幫助藝術家將權力的天平從 AI 公司那裡倒轉回來，以便尊重藝術家的版權和智慧財產權。據報導，這些研究人員已經將他們為開發 Nightshade 所做的工作提交給了電腦保安會議 Usinex 的同行評審。總結與建議
隨著 AI 技術的發展，與藝術家之間的矛盾也浮出水面。在 AI 模型的訓練過程中選擇適當的訓練資料是一個具有挑戰性的問題，尤其是當使用從網路中爬取的資料時，需要確保尊重藝術家的版權和智慧財產權。 然而僅僅依靠訴訟並不能解決這個問題。藝術家可以利用技術工具，如 Nightshade，對抗 AI 模型的訓練。這樣的工具可以使 AI 模型學習到錯誤的訊息，甚至生成令人不安的作品，從而在一定程度上抵制未經藝術家允許使用其作品的行為。 然而我們也應該警惕，這種技術可能被用於惡意目的。因此在採用這樣的工具時，需要平衡藝術家的權益和 AI 發展的需求。同時各方應該透過討論和合作，找到一種更好的平衡，以確保 AI 技術的健康發展同時尊重藝術家的創作權和智慧財產權。AI 或藝術-wordpress,AI,模型,藝術家,Nightshade,威脅,全球
延伸閱讀
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- WhatsApp 在 iOS 平臺全球推出 Passkeys 支援
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- Snowflake 推出自家旗艦生成式人工智慧模型
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- 亞馬遜計劃託管企業定製的生成式人工智慧模型
- 這款相機以 AI 詩詞交換照片
- Webflow 併購 Intellimize，加入 AI 動力頁面個性化
- 頭條新聞：頂級公司專頁功能即將上線，搭載 AI 及行銷工具助您擴充套件觀眾量
- Amazon Music 跟隨 Spotify 推出自己的 AI 播放清單生成器 Maestro
