Instagram 為 AI 生成內容開發標籤功能
研究員在 Instagram 應用程式中發現了標示 AI 生成內容的功能
Instagram 似乎正在開發一種新的通知機制，用於識別 AI 在其平臺上建立內容時的角色。經常在功能官方宣布之前發現 Instagram 新功能的應用研究員 Alessandro Paluzzi 釋出了一張 Instagram 應用程式中的頁面截圖，上面寫著"創作者或者 Meta 表示這個內容是透過 AI 建立或者編輯的。"這個特定的通知指出，在這種情況下，影象是由" Meta AI 生成"的，然後對生成 AI 的概念進行了簡要描述，並解釋了如何識別使用 AI 的帖子。
Meta 等公司承諾對 AI 負責任開發
最近，Meta 以及包括 Google、Microsoft 和 OpenAI 在內的其他主要 AI 公司向白宮做出了承諾，承諾負責任地開發 AI。除了投資於網路安全和反歧視研究之外，承諾還包括開發一個識別內容是否由 AI 生成的浮水印系統。當前還不清楚 Instagram 的標籤系統將自動化程度如何以及在多大程度上要依賴使用者披露使用 AI 建立或編輯影象的情況。但是通知中包含"Meta 說"這個詞語，暗示至少在某些情況下，技術公司將主動應用此通知，而不僅僅依賴使用者的誠實。
AI 生成內容的潛在風險
盡管相對年輕，我們已經對 AI 生成的虛假訊息產生了一些警覺，今年早些時候，教宗穿著一件時髦的蓬松夾克的照片在社交媒體上迅速傳播。盡管這張圖片最終被證實為假圖，但這提醒我們，如果應用於衛星影象和政治攝影等領域，簡單的工具現在已經存在，可以傳播危險的虛假訊息。Meta 最近已將其大型語言模型 LLaMA 2 開源，但尚未廣泛釋出面向消費者的生成 AI 功能，比如應用於 Instagram 的功能。
AI 生成內容的新功能發展
儘管如此我們已經略有所見，Meta 正在開發哪些 AI 生成內容的功能。據《Axios》報道，Meta 執行長 Mark Zuckerberg 在六月份的全體會議上表示 Meta 正在開發一些功能，例如使用文字提示來修改 Instagram Stories 的照片。應用程式研究員 Paluzzi 還發現了一個 Instagram 的"AI 筆刷"功能的跡象，該功能可以"新增或替換圖片的特定部分"。《金融時報》最近報導，Meta 可能在下個月將 AI 聊天機器人"人格"功能整合到其產品中。
社交媒體平臺應對 AI 生成內容的挑戰
AI 生成內容的需要更多的透明度和負責任的使用。在數位時代，AI 已經成為社交媒體平臺上內容創作的重要工具。然而 AI 也帶來了許多挑戰和風險。AI 生成的內容往往可以以非常逼真的方式模仿現實，讓人難以區分虛擬與真實。這可能對人們的信任產生負面影響，尤其是在政治、新聞和其他敏感領域。
技術透明度和負責任發展
社交媒體平臺應該積極努力提高 AI 生成內容的透明度和負責任使用。標示 AI 生成內容的功能是這一努力的一部分。這一舉措可以提醒使用者 AI 是如何參與建立和編輯內容的，使人們能夠對內容更加評估和質疑。
使用者教育和識別 AI 生成內容
然而單靠標示功能並不足以解決 AI 生成內容的問題。社交媒體平臺還應該加固使用者教育，提供有關 AI 生成內容的訊息和教育。這包括教導使用者如何識別 AI 生成的內容以及如何謹慎地使用和分享這些內容。
監管和合作
此外 AI 生成內容的監管也非常重要。政府、學術界和行業組織應加固合作，制定相應的監管標準和指南，以確保 AI 生成內容的合理使用和保護使用者利益。只有透過共同努力，才能建立一個可持續發展和健康的 AI 生成內容生態系統。
結論
AI 生成內容是當今社交媒體平臺面臨的重要挑戰之一。透過引入新的標籤功能，提高技術透明度、使用者教育和監管合作，社交媒體平臺可以更好地應對這一挑戰。同時使用者也應提高警惕，學會識別和評估 AI 生成的內容，以保護自己的訊息安全和知識權益。
延伸閱讀
- Google I/O 盛會 AI 領域的重大訊息
- Instagram 聯合創始人加入 Anthropic 擔任產品主管
- Google I/O 2024：AI 與 Android 大揭祕
- Google 在 I/O 主題演講中提到「AI」超過 120 次
- OpenAI 考慮允許 AI 色情內容？
- Reddit 實施新的內容政策，公開資料需簽訂合同才能使用
- Instagram 全球測試跨平臺發文功能
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Instagram 提供了一個新功能，讓你發布一則祕密 Story，只有透過私訊才能揭開。
