FTC 圓桌會議呼籲對生成 AI 進行監管
背景
在昨天的虛擬聯邦貿易委員會（FTC）圓桌會議上，代表藝術家的創意工作者和勞工領袖要求對生成 AI 模型和工具進行監管，聲稱他們需要「同意、擁有權、控制權和報酬」來保護他們的藝術作品、品牌、聲音、形象和品牌不受 AI 模型訓練、剽竊作品、AI 生成的深度偽造等侵害。這次 FTC 的圓桌會議名為「創意經濟與生成 AI」，旨在更好地理解生成人工智慧對創意領域的影響。本次會議在數個星期前的一個閉門會議之後舉行，該閉門會議集中於邀請了特斯拉的埃隆·馬斯克、Meta 的馬克·扎克伯格、OpenAI 的山姆·阿爾特曼、Google 的桑達爾·皮查伊、微軟的薩蒂亞·納德拉和英偉達的黃仁勛等大型科技公司的執行長。該會議因集中展示了大型科技公司執行長而受到批評。
創意工作者的訴求
許多人已經聽說了生成 AI 對作者、演員和視覺藝術家當前和潛在的影響，但上述圓桌會議中還提到了一些鮮為人知的創意工作者受到的衝擊。例如，時尚模特業中非營利研究、政策和倡導組織 Model Alliance 的創始人兼執行主任薩拉·齊夫表示當談到生成 AI 如何影響工人時，「我們需要考慮到這個行業實際上就像是無法無天的西部拓荒時期，工人在基礎保護方面幾乎沒有任何保障」。時裝模特對生成 AI 與 3D 人體掃描技術的使用尤為關注——最近的一份調查顯示，近 18%的模特已被品牌或品牌代理公司要求進行掃描。
此外他們還擔心 AI 生成的模特，特別是顏色多樣化的 AI 模特。她稱，那些被掃描的人在描述時沒有被告知掃描的目的，因此在不知不覺中放棄了對他們形象的所有權利，並未得到形象進一步使用的合理報酬。對於那些依賴形象維生的人來說這是一個嚴重的問題。
藝術家權益聯盟（Artist Rights Alliance，ARA）的執行主任珍·雅各布森表示音樂家多年來一直使用以人工智慧為驅動的工具來自動調音、生成節奏並協助錄音室製作。但是她表示如今音樂家面臨的是「吸納了大量音樂作品的廣泛 AI 模型，並在未獲取創作者同意或報酬的情況下模仿藝術家的聲音」。她指出，這不僅侵犯了版權，還導致音樂市場競爭不公平。她說：「音樂家的作品被偷竊，然後用來創作 AI 生成的曲目，直接與他們競爭。」此外她還表示 AI 模型現在還用於創作深度偽造影片，這些影片描繪了一個實際上未取消的音樂會、藝術家推銷他們從未代言的產品，或者創作了虛假的音樂家批評自己的粉絲的畫面。她說：「這不是一種假設性的傷害。消費者的迷惑和欺騙行為正在發生，不僅讓粉絲困惑，還讓藝術家本人感到羞辱，損害了他們的公眾形象。」
創意工作者的立場和建議
演員工會 SAG-AFTRA 的全國執行主任和首席談判人鄧肯·克拉布特裏-愛爾蘭表示演員工會“明確表示我們不反對新技術的存在或使用，也不反對 AI 的存在或使用”。但是他補充說，「重要的是要理解，所有生成 AI 內容都源自人類創造力的來源，沒有 AI 算法能夠從虛無中創造出東西」。他指出，演員的個人形象、聲音和獨特性是他們的品牌，沒有任何公司應該在未經允許的情況下冒用或隨意使用這些形象和品牌。他說：“我們提出的建議是為了讓我們的世界和我們的行業保持以人為中心，AI 和其算法應該服務我們，而不是反過來。”
在與 AI 公司展開的兩起訴訟中的原告之一道格拉斯·普雷斯頓是《作者協會》（The Authors Guild）提起的集體訴訟的一名原告，指控 OpenAI 非法盜竊了幾百部書籍並在未經允許的情況下使用這些書籍來訓練其 AI 模型。該訴訟的其他原告包括喬治·R·R·馬丁、喬迪·皮庫特、米高·康奈利和喬納森·弗朗岑等多名作家。他說：“如果 ChatGPT 只是透過從網路部落格、意見、對於貓的故事、色情等文字中提取來進行訓練，那它將變得單調乏味且無用。”他補充說，山姆·阿爾特曼曾經「作證說書籍提供了高價值的文學內容，是大型語言模型所需要的」，但是他強調說：「這是我們的一生一世的作品，我們將自己的心和靈魂傾注其中。」
在兩起針對頂尖 AI 公司的訴訟中，概念藝術家、插畫師和優秀藝術家卡拉·奧爾蒂茲是對 Stable Diffusion 和 Midjourney 提起的集體訴訟的原告之一，指控這些機構未經原創藝術家同意，使用從網路上撮取的 50 億幅影象來訓練他們的 AI 工具，侵犯了“數百萬藝術家”的權利。她表示：“作為專業人士謀生需要一輩子的練習和學習，只有在遵循同意、擁有權、報酬和透明性等基本原則時，創意經濟才能執行。”她還補充說，AI 公司“拿走了我們的作品和資料，用於對抗我們自己的市場，使用旨在模仿我們的生成媒體”。
結論
這次圓桌會議突出了在生成 AI 領域中，創意工作者面臨的重大問題和挑戰。他們要求政府機構加固監管，確保生成 AI 模型和工具的使用符合同意、擁有權、控制權和報酬等基本原則。同時他們也強調了生成 AI 對創意經濟的潛在發展和影響。保護創作者權益，確保合理報酬和適當使用是關鍵。政府機構、AI 公司和創意工作者需要攜手合作，制定適應時代發展的監管機制和策略，從而促進 AI 技術的合理和負責任使用。
