現狀：Bing 的 AI 圖片生成器試圖封鎖對"雙子塔"的提示，但並不成功
微軟的 Bing DALL-E 3 整合工具的使用者發現其中的漏洞，透過這個工具他們生成了一些圖片，這些圖片描繪了一些受歡迎的動畫角色和雙子塔。微軟似乎已經封鎖了"雙子塔"和"世界貿易中心"等提示詞，但系統仍然能夠生成包含"塔"一詞的圖片。據 404 Media 的報導，微軟的 Bing Chat 和 Bing 圖片生成器(最近與 OpenAI 的 DALL-E 3 整合)的使用者利用這些工具生成了海綿寶寶、卡比、《新世紀福音戰士》中的飛行員等角色開飛機撞向雙子塔的圖片。AI 圖片生成器已經因為版權侵權和深度贋造等問題而引起了關注，因此開發人員在允許人們使用這些工具生成可疑圖片方面變得更加謹慎。
回應：微軟計劃改進系統以防止生成有害內容
微軟的通訊總監凱特琳·洛爾斯頓(Caitlin Roulston)在寄給 The Verge 的電子郵件中表示微軟計劃改進系統，以幫助防止生成有害內容。她說：“就像任何新技術一樣，有些人嘗試以意想不到的方式使用它，這就是為什麼我們正在實施一系列的保護手段和篩選器，以使 Bing 圖片生成器對使用者來說成為一個積極和有幫助的體驗。”然而微軟沒有具體說明這些保護手段或篩選器的具體內容，也沒有評論微軟是否最近封鎖了與雙子塔有關的內容。
問題：封鎖內容可能有些晚了
然而根據 404 Media 的報導，一些網站（如 4chan）上的帖子指導人們如何利用像是 Bing Chat 和 Stable Diffusion 這樣的免費工具製作和分發種族主義影象，這可能表明微軟對封鎖內容的行動已經有些晚了。與以往一樣，透過調整提示詞的字詞，人們仍然可以繞過這些保護手段。
觀點：AI 的安全性需要不斷提升
DALL-E 3 的開發者 OpenAI 公開承認他們的安全措施“並不完美”，並且一直在不斷升級。他們可能沒有預料到海綿寶寶從事恐怖主義活動的圖片會成為他們等待的測試專案。AI 技術的快速發展帶來了令人難以預料的挑戰，隨著人們不斷尋找確保 AI 安全且符合倫理的方法，開發者們必須對他們的工具進行進一步的改進，以提高安全性和防止濫用。
整體建議：保障 AI 工具在保護法律與倫理的基礎上發展
對於 AI 圖片生成器等工具的使用益處和潛在危害，我們需要進行深入的討論和反思。開發者和科技公司應該與社會和專家攜手合作，制定明確的安全和倫理準則，確保這些工具的使用不會對個人、社會和法律帶來負面影響。同時政府機構也需要加固監管和監控 AI 技術的發展，以確保公共利益得到保護。
此外個人使用者也有責任在使用這些工具時保持良好的道德和倫理觀念。我們應該明確認識到這些工具的潛在風險，並尋求平衡正當使用和保護隱私之間的關係。只有這樣，AI 工具才能充分發揮其促進創新和解決問題的潛力，同時又不會對我們的價值觀和社會造成傷害。
延伸閱讀
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 亞馬遜成立新型代理 AI 團隊，將如何改變科技未來？
- 「搶先報名！TechCrunch Sessions: AI 演講者申請截止日期迫在眉睫！」
- MWC 最新報導：AI 影響力的兩極化觀點首次曝光！
- 亞馬遜新推出 Alexa+：為孩子們帶來 AI 驅動的「探索」與「故事」新功能！
- Bridgetown Research 載著 AI 助力，成功募資 1900 萬美元加速盡職調查！
- Nomagic 獲得 4400 萬美元資金，AI 驅動的機器手臂技術將改變未來！
- 全方位理解 Anthropic 的 AI：揭開 Claude 的神祕面紗！
- 微軟刪除 AI 資料中心租賃，背後原因何在？
- Perfect 獲得 2300 萬美元資金，運用 AI 革新招聘流程！
