Instagram 的推薦演算法推廣了兒童色情網路
由華爾街日報和斯坦福大學、麻省大學 Amherst 分別的學者進行的聯合調查顯示，Instagram 的演算法促進了一些兒童色情網路中的帳戶，這些網路販售兒童色情內容。這些帳戶使用明顯的和露骨的標籤，如 #pedowhore、#preteensex、#pedobait 等，提供內容“選單”供使用者購買或委託，包括自殘和獸交的影片和影象。當研究人員建立了一個測試帳戶，檢視這些網路分享的內容時，他們立即被推薦更多帳戶關注。華爾街日報報導說：“只要關注了這些推薦帳戶中的一小部分，就足以淹沒測試帳戶的內容，使其充斥著性感兒童的內容。”
Meta 的回應
對於這份報導，Meta 表示正在成立一個內部工作小組來解決調查所提出的問題。該公司表示：“兒童被性剝削是一種可怕的犯罪，我們一直在調查積極防御這一行為的方法。”Meta 指出，僅在今年 1 月就刪除了 490,000 個違反其兒童安全政策的帳戶，在過去兩年中刪除了 27 個兒童色情帳戶，並阻止了與兒童色情相關的數千個標籤，約束了這些詞彙的使用者搜尋。 Stanford 的網際網路觀察員（Internet Observatory）負責人、Meta 前首席安全官亞歷克斯斯塔莫斯表示公司可以並且應該採取更多行動解決這個問題。塔莫斯表示：“一個由三名學者組成的小組能找到這樣一個巨大的網路，應該讓 Meta 警覺。”他補充道：“我希望公司能重新投資於人員調查。”
網站不適切之處
華爾街日報的報導中指出，除了 Instagram 的推薦演算法之外，該網站的兒童色情內容舉報及審核等方面也存在問題。報告顯示，使用者舉報了包含可疑內容的帖子和帳戶（其中一個帳戶標題寫著“這個少女已經準備好給你來犯人”），但 Instagram 的審核團隊通常忽視或拒絕舉報，或傳送一條自動訊息：“由於我們接收到的舉報數量過多，我們的團隊無法檢視此帖子。”
其他社交平臺的情況
該報告還研究了其他平臺，但發現它們不太容易滋生此類網路，如斯坦福的調查人員在 Twitter 上發現了“128 個帳戶向使用者販售兒童色情材料，僅有 Instagram 發現帳戶的三分之一” ，儘管 Twitter 使用者少得多，此類內容在 TikTok 上也不普遍。該報告指出，Snapchat 沒有積極推廣此類網路，因為它主要用於直接訊息。
我的意見
這份報告中的兒童色情內容事件令人震驚和痛心。 Instagram 等社交平臺應該擔起更大的責任，積極採取行動，遏制兒童色情內容在網路上的擴散。其中加固內部工作小組以研究及開發更進一步的技術解決方案，加固人員調查，把合法的的事情澄清？ 另外在這個問題不斷加深的現在父母也應該盡到自己的責任，定期檢查孩子的網路使用情況，並加固家庭教育。讓我們共同努力，保護未成年人的健康成長。
延伸閱讀
- TikTok 展開在加拿大和澳大利亞測試其 Instagram 競爭對手 TikTok Notes
- 「Facebook 與 Instagram AI 生成的裸照遭調查」
- 緊密監控：Meta 因遵守法院禁令而在土耳其停止與 Instagram 分享資料
- 新聞標題：Meta 在 Instagram 測試 AI 動力搜尋欄
- TikTok 推出 Instagram 競爭對手 "TikTok Notes"？
- 雅虎從 Instagram 聯合創始人手中購得 Artifact 新聞應用程式
- @Potus 透過 Instagram Threads 加入了 Fediverse
- 雅虎併購 Instagram 共同創辦人的 AI 動力新聞新創公司 Artifact
- Instagram 正在開發「Blend」功能，為你和朋友推薦 Reels 最佳內容
- AI 技術引發 Instagram 創作者爭議
