現狀：Bing 的 AI 圖片生成器試圖封鎖對"雙子塔"的提示，但並不成功
微軟的 Bing DALL-E 3 整合工具的使用者發現其中的漏洞，透過這個工具他們生成了一些圖片，這些圖片描繪了一些受歡迎的動畫角色和雙子塔。微軟似乎已經封鎖了"雙子塔"和"世界貿易中心"等提示詞，但系統仍然能夠生成包含"塔"一詞的圖片。據 404 Media 的報導，微軟的 Bing Chat 和 Bing 圖片生成器(最近與 OpenAI 的 DALL-E 3 整合)的使用者利用這些工具生成了海綿寶寶、卡比、《新世紀福音戰士》中的飛行員等角色開飛機撞向雙子塔的圖片。AI 圖片生成器已經因為版權侵權和深度贋造等問題而引起了關注，因此開發人員在允許人們使用這些工具生成可疑圖片方面變得更加謹慎。
回應：微軟計劃改進系統以防止生成有害內容
微軟的通訊總監凱特琳·洛爾斯頓(Caitlin Roulston)在寄給 The Verge 的電子郵件中表示微軟計劃改進系統，以幫助防止生成有害內容。她說：“就像任何新技術一樣，有些人嘗試以意想不到的方式使用它，這就是為什麼我們正在實施一系列的保護手段和篩選器，以使 Bing 圖片生成器對使用者來說成為一個積極和有幫助的體驗。”然而微軟沒有具體說明這些保護手段或篩選器的具體內容，也沒有評論微軟是否最近封鎖了與雙子塔有關的內容。
問題：封鎖內容可能有些晚了
然而根據 404 Media 的報導，一些網站（如 4chan）上的帖子指導人們如何利用像是 Bing Chat 和 Stable Diffusion 這樣的免費工具製作和分發種族主義影象，這可能表明微軟對封鎖內容的行動已經有些晚了。與以往一樣，透過調整提示詞的字詞，人們仍然可以繞過這些保護手段。
觀點：AI 的安全性需要不斷提升
DALL-E 3 的開發者 OpenAI 公開承認他們的安全措施“並不完美”，並且一直在不斷升級。他們可能沒有預料到海綿寶寶從事恐怖主義活動的圖片會成為他們等待的測試專案。AI 技術的快速發展帶來了令人難以預料的挑戰，隨著人們不斷尋找確保 AI 安全且符合倫理的方法，開發者們必須對他們的工具進行進一步的改進，以提高安全性和防止濫用。
整體建議：保障 AI 工具在保護法律與倫理的基礎上發展
對於 AI 圖片生成器等工具的使用益處和潛在危害，我們需要進行深入的討論和反思。開發者和科技公司應該與社會和專家攜手合作，制定明確的安全和倫理準則，確保這些工具的使用不會對個人、社會和法律帶來負面影響。同時政府機構也需要加固監管和監控 AI 技術的發展，以確保公共利益得到保護。
此外個人使用者也有責任在使用這些工具時保持良好的道德和倫理觀念。我們應該明確認識到這些工具的潛在風險，並尋求平衡正當使用和保護隱私之間的關係。只有這樣，AI 工具才能充分發揮其促進創新和解決問題的潛力，同時又不會對我們的價值觀和社會造成傷害。
延伸閱讀
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- 這款相機以 AI 詩詞交換照片
- Webflow 併購 Intellimize，加入 AI 動力頁面個性化
- 頭條新聞：頂級公司專頁功能即將上線，搭載 AI 及行銷工具助您擴充套件觀眾量
- Amazon Music 跟隨 Spotify 推出自己的 AI 播放清單生成器 Maestro
- 「Facebook 與 Instagram AI 生成的裸照遭調查」
- 新聞標題：Meta 在 Instagram 測試 AI 動力搜尋欄
- Google 計劃透過兩款新的 10 美元 Workspace 附加元件來實現 AI 的盈利化
