在 Discord 的禁止使用者改革運動中的內部情況
Discord 是一個改革平臺司法制度的新運動的跡象。這項改革運動的支援者們希望，如果在 Discord 上取得成功，它將能夠在整個網路上改善使用者行為。
I. Discord 的改革運動
Discord 在舊金山的總部與其他許多科技公司總部一樣，擁有開放式辦公室、裝置齊全的微型廚房以及忙碌的員工進出訂滿的會議室。但只要踏進大廳的玻璃門，就立刻會明白這是一個由遊戲玩家建立的地方。街機風格的藝術裝飾著牆壁，各種遊戲藏在角落，並且在星期三的下午，坐在一排的三名員工正在進行一款第一人稱射擊遊戲競賽。雖然電子遊戲是為純粹的娛樂而設計的，但是圍繞這些遊戲的社區通常被譽為有毒的。[1]
對於 Discord 而言，它最初是作為遊戲玩家在一起聊天的工具，遊戲玩家既是關鍵群體，也是理解線上傷害進化的實驗場。如果某件事情會傷害到人，那麼很可能有一個憤怒的遊戲玩家正在試驗。當然如今的 Discord 不僅僅是討論遊戲的地方。到 2021 年，它報告的月活躍使用者數超過 1.5 億，其最大的伺服器現在包括音樂、教育、科學和人工智慧藝術等。隨著使用者基數的增長，Discord 的伺服器上出現了一些醒目的爭議。[1]
大部分時候，Discord 上的問題帖子都不會像上述那樣嚴重。就像在任何一個大型平臺上一樣，Discord 每天都在打擊垃圾訊息、騷擾、仇恨言論、色情和血腥內容。在加密貨幣熱潮的高峰期，它也成為了詐騙者的首選目的地。大多數平臺都使用類似的三擊出局政策來處理這些問題，也就是違規使用者違規累積到一定次數後，將會被禁止使用。在許多情況下，經過一段時間後，這些違規記錄會被寬恕，例如 30 天或者 90 天。從科技公司的角度來看，這種政策的好處在於它易於傳達，而且它“擴充套件”的能力也很強。你可以構建一個自動化系統，無需人為監督地發放違規標記警告，審核上訴，並禁止帳戶。[1]
II. Discord 的改革與重新教育使用者
然而當 Discord 的團隊審查其自身關於警告和禁止使用者的政策時，他們發現這個系統的不足之處。首先三次擊中的政策不是均衡的。它對輕微違規和重大違規處以相同的懲罰。其次它無法培養改善行為。大多數收到擊中的使用者可能並不應該被永久封禁，但如果你希望他們繼續使用，你必須找出如何教育他們。Discord 希望約束青少年最糟糕的衝動。再者，大多數平臺的紀律體制缺乏細微區別。如果一名青少年女孩發帖描繪自我傷害，Discord 將根據其政策刪除該圖片。但這個女孩不需要被從社交媒體中禁止，而是需要指向能夠幫助她的資源。另外 Discord 還必須考慮到一個額外的複雜因素。使用者中一半是 13 至 24 歲的年輕人，其中一部分是青少年。青少年是固執的冒險者和越界者，Discord 的動機是建立一個體系，約束他們最糟糕的衝動，並且在最理想的情況下，將他們培養成網際網路上的正直公民。[1]
這就是 Discord 推出的新警告系統的邏輯，他們在今天宣布了這些改變。該公司在一篇部落格文章中解釋了這些改變：
1. 起始於私信：違規的使用者將會收到來自 Discord 的應用程式訊息，告知他們是否收到了警告或擊中，取決於發生的事件的嚴重程度和 Discord 是否採取了行動。
2. 細節只需一鍵：從該訊息開始，使用者將被引導到詳細的模態對話方塊中，該對話方塊將提供有關違反我們規則的帖子的詳細內容、已採取的行動和/或帳戶約束的概述以及有關違反特定 Discord 政策或社群指導線的更多訊息。
3. 所有訊息均簡化在帳戶狀態中：在設定中，可以檢視有關過去違規的所有訊息，這些訊息將顯示在新的“帳戶狀態”選項卡中。不過一些違規行為比其他行為更嚴重，因此我們將根據違規行為的嚴重程度採取適當的行動。例如，我們一直並將繼續對待暴力極端主義和將兒童當成性物件的內容採取零容忍政策。[1]
不過這樣的系統並不是完全新穎的。Instagram 也採取了類似的方法。Discord 更進一步的地方在於它的處罰系統。它不僅僅會給使用者一個擊中，而是根據違規行為約束他們在平臺上的行為。如果在一個伺服器上釋出了大量的暴力內容，Discord 將暫時約束您上傳媒體的能力。如果你入侵了某個伺服器並且透過大量訊息淹沒它，Discord 將暫時關閉您傳送訊息的能力。Discord 的信任和安全副總裁約翰·雷德格雷夫在接受存取時告訴我：“作為一個行業，我們手中持有很多鎚子。我們試圖引入更多手術刀。“如果使用者能夠真正改變自己的行為，這不僅對 Discord 有好處，對所有平臺都有好處。”而當某個人反覆越界時，Discord 將努力不會永遠將該使用者封禁。相反，它將封禁他們一年 - 這對於一個通常以終身封禁為常規的行業來說是極其減少的。這表明了對社交網路線上上人們的生活中的重要性的認可，特別是年輕人 - 並且罕見地接受了這樣一個觀點：如果有人願意花時間嘗試，大多數迷途的使用者可以被重新教育。[1]
III. Discord 對伺服器的改革運動
在四個 Discord 的信任和安全團隊成員和約翰·雷德格雷夫、薩凡納·巴達利奇等人進行的會議中，我得到了機會在公共場合下廣泛闡述的情況。因為這家公司在建立解決方案的早期階段，解開這些涉及到的各種利益的紛亂是非常困難的。所有這些都可能變得非常難以理解。在這個案例中，團隊成員們必須決定在一個失控的伺服器中發生的問題由誰負責。如果你的第一個想法是“伺服器的所有者”，那對我來說也是一樣的。但有時，伺服器的管理員對伺服器的所有者不滿，並以釋出違反 Discord 規則的內容來進行報復 - 一種搶眼焦土政策，旨在將伺服器封禁。然後，或許我們應該把管理員視為和伺服器所有者一樣對伺服器上的損害負責？然而 Discord 對於誰算作主動管理員沒有一個完全一致的定義。有些使用者在加入伺服器時會自動獲得管理員許可權。如果伺服器失控，而這位“管理員”從未在伺服器上發過帖子，那麼為什麼他們要負責？此外團隊成員們說，有些伺服器的所有者和管理員往往不熟悉 Discord 的社群指南。另一些人可能知道規則，但實際上並不知道伺服器上的不良行為 - 不管是因為伺服器太大且活躍，無法閱讀每一帖子，還是因為他們最近沒有登入。最後這一系列問題適用於大多數發生意外傷害的伺服器。Discord 還必須考慮到數量較少但重要的用來傷害人的伺服器 - 比如收集並出售兒童性虐待材料的伺服器。團隊一致認為，這些問題都可能變得非常困惑不解。但最終團隊成員們找到了前進的道路：透過分析伺服器後設資料以及伺服器所有者、管理員和使用者的行為，診斷問題伺服器並嘗試對其進行改善。這並不完美 - 信任和安全組永遠不會很完美。一位產品政策專家開玩笑地說：“當前的系統是一個忽視和過度執行的迷人案例。我們做的是一個有點不同的過度執行案例。”然而那天我離開 Discord 的總部時，對該公司未來的系統有了更多的信心。信任和安全團隊往往被描繪成背棄的道德家和審查者，而存取 Discord 則提醒了人們，他們也可以成為創新者。[1]
註 1：原文來源: Inside Discord’s reform movement for banned users（作者：Casey Newton）
延伸閱讀
- Discord 開始執行廣告，AT&T 密碼重設，Android 使用者的播客更新
- Discord 部分使用者遭遇存取問題
- Discord 未對協調 Mastodon 大規模垃圾郵件攻擊的伺服器採取任何行動
- 迅速成長的 Discord 裁員 170 人，公司執行長指責成長過快
- Discord 更新仇恨行為政策，禁止錯誤性別使用與舊稱呼
- Discord 重新設計其手機應用程式，突顯最佳的社交功能
- Discord 擴大計劃，開始售賣自訂頭像和其他虛擬物品
- WhatsApp 推出新的類似 Discord 的大型群組語音聊天功能
- 科技公司 Meta、Discord 等公布行動計畫，打擊網路兒童性剝削與虐待
- 2023 年 30 大熱門加密專案大揭密
