Discord 改變對平臺使用者的管理方式
新的警告系統重建帳戶規則
Discord 正在對平臺進行全面改革，包括新的警告系統和青少年安全輔助功能。這些都是 Discord 在未來幾個月將推出的一系列功能新增中的一部分，還包括 Discord 會員的應用內商店、移動版的全新午夜主題以及啟動應用程式的新方式。
新的 Discord 警告系統已經進行了全面改進，更加透明，向 Discord 使用者教育他們如何違反規則並約束他們使用服務的部分功能，而不是永久封禁他們。Discord 的政策高級總監 Savannah Badalich 在接受 The Verge 的簡報時解釋說：“新的系統給使用者更多學習自己錯誤並糾正錯誤的機會。”她還表示：“在許多違規行為中，我們不再使用永久封禁的方式，而是使用一年的臨時封禁，除非違規行為極為嚴重。”
在未來幾周，Discord 將開始約束違規者的功能，而不是直接封禁他們。如果 Discord 使用者違反規則，他們將收到來自 Discord 的私人訊息(DM)，告知他們有關警告或違規行為的內容以及 Discord 將採取的行動。因此如果一個 Discord 使用者上傳了違反規則的圖片，他們可能會暫時禁止使用發布圖片的功能。Badalich 聲稱：“我們認為我們已經建立了任何平臺上最微妙、最全面、最相稱的警告系統。”
Discord 的平臺中還有一個類似 Microsoft Xbox 罷工系統的全新帳戶狀態部分，可以透明顯示帳戶上的任何違規行為。與許多其他平臺不同，Discord 在這裡不採取“三次違規就封禁”的方式，而是試圖教育使用者改進他們線上互動方式。“我們相信人們（尤其是青少年）有能力在給予機會的情況下改變自己，所以我們想提供這些機會，” Badalich 說。
加固青少年安全輔助功能
除了新的警告系統外，Discord 還推出了青少年安全輔助功能。該功能旨在透過主動篩選和警示來保護青少年，並將預設啟用。在未來幾週，Discord 將推出一個敏感內容篩選器，該篩選器將預設啟用並模糊直接訊息和伺服器中的性內容。成年人也可以選擇啟用此功能，並可以在設定中禁用。Discord 將模糊青少年的性內容圖片。
這意味著 Discord 將掃描圖片附件以檢測明確內容，這可能引發隱私關切，特別是涉及到青少年。雖然 Discord 正在嘗試為語音和影片通話提供加密功能，但該服務當前尚未像蘋果、WhatsApp、Signal 和其他許多平臺一樣使用端到端加密功能。Discord 辯稱，它的掃描並不侵犯隱私，因為它使用的是 AI 模型，而不是人工。“這使我們能夠部署更多技術來識別問題內容，但這不能被視為侵犯隱私，” Discord 的信任與安全副總裁 John Redgrave 在接受 The Verge 的採訪中解釋道。他說：“這是我們表示我們不會大幅侵犯每個人的隱私，同時提供從安全形度豐富人們體驗的工具。”
Redgrave 在兩年前加入了 Discord，當時該公司收購了他共同創立的 Sentropy，該公司致力於開發 AI 工具，用於檢測線上騷擾和虐待。Discord 計劃將這些 AI 模型擴充套件到模糊之外。他解釋說：“這為我們提供了一種機制，可以在未來引入其他可以保護免受其他形式挑戰性內容的模型。”他還表示 Discord 還在研究一種防範性剝削模型，用於檢測其平臺上的性剝削問題。
Recommendation and Editorial
Discord 的這一舉措旨在更好地保護使用者，尤其是年輕人。正如 Badalich 所指出的，給予使用者學習和改正錯誤的機會至關重要。透過實施警告系統，Discord 可以幫助使用者理解他們的行為如何違反規則，並約束他們的許可權以改善他們在平臺上的互動。這種教育性的方法鼓勵使用者改變自己的行為，並提供機會重新參與社群。
同時 Discord 的青少年安全輔助功能對於保護青少年免受不當內容的侵害至關重要。透過篩選敏感內容並模糊性內容圖片，Discord 創造了一個更安全的線上環境，防止青少年接觸到不適宜的內容，同時也提供了對成年使用者的選擇權。
Discord 應關注隱私保護
然而 Discord 應該更關注使用者的隱私保護。儘管他們聲稱使用的是 AI 模型而不是人工，但掃描圖片附件的行為仍然會引發隱私問題。Discord 應試圖採取更多措施，以確保使用者的私人訊息不被濫用或外洩。
未來展望
Discord 的改革措施是一個積極的舉動，旨在提供更安全和教育性的線上環境。然而他們應該繼續努力，不斷改進他們的安全和隱私保護措施，以確保使用者得到更好的保護。
原文連結：https://www.theverge.com/2023/10/19/22736332/discord-warning-system-safety-teen-education
延伸閱讀
- 法拉第未來暫時避免在洛杉磯總部被逐，立即閱讀更多訊息
- AI 無所不在：從會議到訊息再拓展
- Discord 開始執行廣告，AT&T 密碼重設，Android 使用者的播客更新
- WhatsApp 現在可置頂最多三則訊息
- 科技明星對 JP 摩根的 8000 萬美元合作訊息岌岌可危，員工表示
- Discord 部分使用者遭遇存取問題
- Google 就 10 家印度公司逃避 Play 商店費用發出警告，並威脅將移除其應用程式
- Discord 未對協調 Mastodon 大規模垃圾郵件攻擊的伺服器採取任何行動
- 運動賭博即將進入 X 市場，與 BetMGM 合作夥伴關係的訊息
- Tinder 推出新警告功能，提醒使用者可能不當行為
