技術公司努力將 AI 影象生成器引入主流市場，以更好地防止濫用
問題概述
自從去年開始，能夠從文字命令中創造奇幻藝術品或逼真影象的人工智慧工具開始備受歡迎。然而大部分人並沒有在工作或家中實際使用這些工具。隨著領先的科技公司競相將文字到影象生成器推廣至各種任務中，例如將其整合到熟悉的工具中，如 Microsoft Paint、Adobe Photoshop、YouTube 和 ChatGPT，情況可能會改變。然而這些公司首先需要說服消費者、商業使用者和政府監管機構，他們已經透過更強的保護措施，對早期的 AI 影象生成器進行了一些「西部開拓」的馴服，以防止侵犯版權和出現令人不安的內容。
技術公司的應對
在一年前，只有一小部分的早期採用者和愛好者使用先進的影象生成器，例如 Stable Diffusion、Midjourney 和 OpenAI 的 DALL-E。市場研究機構 Forrester 的分析師 David Truog 表示："以前的這些工具是有趣的奇特事物，但企業對其持謹慎態度。"然而由於包括藝術家和圖片庫公司 Getty 的版權訴訟以及要求制定新法律約束能生成迷惑性政治廣告或濫用性內容的生成 AI 技術，人們對這些問題的擔憂還沒有完全解決。但現在越來越多的製造商聲稱他們的全新影象生成器已經準備就緒。亞馬遜稱，美國使用者今年晚些時候將能夠透過 Fire TV 螢幕生成個性化顯示屏，例如對 Alexa 說："建立一幅雪中的櫻花影象。"不同於那些依靠大量來自網際網路的影象訓練 AI 模型的競爭對手，Adobe 在今年首次推出了一款名為 Firefly 的 AI 生成器，旨在避免法律和道德問題。Adobe 的數位媒體業務技術長 Ely Greenfield 表示："當我們向客戶介紹生成技術時，我們聽到的主要是這項技術很酷，但他們認為自己不能使用它，因為會帶來這些問題。"因此 Adobe 的產品 Firefly 是基於其自有的 Adobe Stock 影象集以及具有使用許可的內容進行開發的。Greenfield 還表示部分圖片的貢獻者也能從這個安排中獲得一些補償。Forrester 的分析師 Truog 表示："Adobe Firefly 在法律上是潔淨的，而其他公司則不是。但如果你只是一個有趣的家夥在體驗生成 AI 的樂趣，你可能不會在意這些問題。"然而如果你是一家企業或創意專業人士，考慮在網站、應用程式、印刷佈局、廣告或電子郵件銷售活動中使用影象，那麼這是一個相當重要的考慮因素。
競爭對手的回應
一些競爭對手開始注意到這一點。ChatGPT 製造商 OpenAI 在週三推出了第三代影象生成器 DALL-E 3，強調其令人印象深刻的功能、與 ChatGPT 的未來整合以及拒絕以生活藝術家風格要求影象的新保護措施。創作者還可以選擇將他們的影象免於將來的模型訓練，不過 Truog 指出，OpenAI 尚未有任何"有關向許可的作者提供訓練使用他們作品的補償的宣告。"同樣在紐約市的獨立展示活動上，微軟和 Google 旗下的 YouTube 也推出了與 AI 影象生成有關的新產品。微軟，作為 OpenAI 的重要投資者，展示了他們已經開始將 DALL-E 3 整合到其圖形設計工具中，主要用於背景編輯，同時還整合到他們的 Bing 搜尋引擎和聊天機器人中。YouTube 則推出了一個新的 Dream Screen，用於短 YouTube 影片，允許創作者自由選擇新的背景。
保護措施和政府指引
本月初，Adobe 和 Stability AI（Stable Diffusion 的製造商）加入了由美國總統喬·拜登政府頒布的義務性保護措施的一個較大的 AI 供應商組織。參與組織包括亞馬遜、Google、微軟和 OpenAI。其中一個白宮的承諾是，企業將開發數位水印等方法，幫助人們確認影象和其他內容是否由 AI 生成。在微軟的活動中，高管們表示他們已經建立了篩選器，以確保從文字提示生成的影象屬於哪一類，特別是針對涉及頂級政治人物的生成內容，用以監控虛假資訊。微軟的全球負責人顧明多表示："我們的目標是確保它不會生成我們不希望生成的型別的內容，比如令人憎恨的內容。"
探討與建議和評論
AI 影象生成器的發展帶來了無限的創意可能性，但同時也引發了人們對於版權和濫用的擔憂。正如上述文章所提到的，過去的一年中，一些早期的 AI 影象生成器常常成為了愛好者和早期採用者的玩具，但企業和創意專業人士對於應用於商業用途的這些工具持保留態度。事實上侵犯版權和生成濫用內容的問題一直存在。這對於那些依賴影象創作的專業人士來說是一個大問題，他們不能輕率地使用這些技術，而是需要確保其影象符合法律和道德準則。
然而隨著技術公司針對 AI 影象生成器開發更強的保護措施，將其引入主流市場的努力正在進行中。Adobe 等公司以自有的影象庫或取得使用許可的內容為基礎，開發了符合法律和道德要求的 AI 生成器。這一舉措向企業和創意專業人士提供了可靠的解決方案，幫助他們避免潛在的法律和道德風險。
此外政府也開始幹預，要求 AI 供應商開發數位水印等方法，揭示 AI 生成的影象和內容的真實性。這種監管措施的出現將有助於提高 AI 技術的透明度和可追溯性，並確保使用者更好地理解生成內容的來源。
建議和展望
鑑於 AI 影象生成器的潛在濫用風險，我們建議技術公司繼續加固保護措施，確保生成器使用依法依規並遵守版權和道德標準。這包括確保 AI 模型的訓練資料符合版權要求，與版權擁有者達成合法協議，並提供合理的補償。此外公司應該提供更多的透明度，關於他們對 AI 生成器中使用的資料的來源、使用方式和遵循的標準。
另一方面，政府應推出更多的指引和監管措施，以確保 AI 技術的合規運用。除了要求供應商開發數位水印等技術外，政府還應該鼓勵國際間的合作，制定更全球化的標準和指南，以應對跨國界的 AI 影象生成器濫用和侵權風險。
總的來說 AI 影象生成器的發展為創意領域帶來了巨大的潛力，但同時也需要適當的監管和保護措施來確保其正確使用。科技公司、政府和有關方面應加固合作，推動 AI 技術向前發展的同時保護智慧財產權和保護使用者免受潛在風險的侵害。
延伸閱讀
- 科技公司 IPO 市場預計直到 2025 年才會完全開放
- 科技巨頭 xAI 競爭開放人工智慧，吸金 60 億美元。推動社交網路 X 成為股東
- Uber 和 Nvidia 支援的 Serve Robotics 以 4,000 萬美元的鉅額進軍公開市場
- 大型科技公司組成新聯盟以消除人工智慧取代工作的恐懼
- 標普技術公司 IPO 檔案暗示科技公司重返公開市場
- 大型科技公司在新的反壟斷時代的口頭攻防策略指南
- 直觀機器公司計畫於 2024 年實現第二次登月任務
- 蘋果錶可能面臨的美國司法部訴訟意味著什麼？
- VC Trae Stephens 表示他在談論 Founders Fund 和 Anduril 時有一座地堡（和更多內容）
- 解決 AI 影象生成器中的種族主義問題
