專案管理

如何重新設計社交媒體演算法以橋接分歧

如何重新設計社交媒體演算法以橋接分歧近年來社交媒體平臺被牽扯進各種規模的衝突中,從城市槍擊案到 2021 年 1 月 6 日美國國會大廈的衝擊以及南蘇丹的內戰。從科學的角度來看,很難判斷社交媒體在單一事件中扮演了多大的責任。但就像氣候變化增加了極端天氣的風險一樣,有證據表明當前的演算法(大部分最佳化 .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

如何重新設計社交媒體演算法以橋接分歧

如何重新設計社交媒體演算法橋接分歧

近年來社交媒體平臺被牽扯進各種規模的衝突中,從城市槍擊案到 2021 年 1 月 6 日美國國會大廈的衝擊以及南蘇丹的內戰。從科學的角度來看,很難判斷社交媒體在單一事件中扮演了多大的責任。但就像氣候變化增加了極端天氣的風險一樣,有證據表明當前的演算法(大部分最佳化於參與度)透過過度呈現具有煽動性的內容,提高了政治的"溫度"。這可能使人們更加憤怒,增加了社會差異升級為暴力的風險。那麼,如果我們重新設計社交媒體以橋接分歧呢?

橋接式排名的原理

傳統的參與度型演算法透過預測哪些帖子最有可能產生點選、喜歡、分享或觀看等行為,並使用這些預測結果來排名最具參與度的內容。這往往放大了具有極端立場的聲音,因為具有煽動性的觀點很具吸引力。而橋接式排名則使用一組不同的訊號來確保內容的高低排名。其中一種方法是提高那些能從通常持不同意見的人那裡獲得正面反饋的內容的排名。這激勵內容製作者考慮他們的內容如何在"另一方"中產生共鳴。Facebook 和 X(之前稱為 Twitter)已經在其平臺上使用了橋接式排名的核心邏輯,但還未在主要內容中使用。而 Polis 是一個在極化議題上用於收集公眾意見的線上平臺,幾個政府已經使用了這種排名方式來制定政策。現有的橋接式排名使用中的證據表明,演算法的改變可能會減少黨派敵意,改善線上互動的質量和包容性。現在人們越來越希望有替代的演算法。歐盟的監管機構和新的平臺(如 Bluesky)給使用者提供了選擇不同演算法決定他們看到什麼的權利,而 Facebook 最近在其平臺上進行了大規模的實驗,測試了不同的選項。如果我們關心社會凝聚力,那麼在這種"選擇時期"我們需要認真考慮橋接等替代方案。

橋接式排名的工作方式

標準的參與度型演算法通常使用點選、喜歡、分享或觀看等行為來預測內容的參與程度,並根據這些預測結果將最具參與度的內容排在頭部位置。這往往放大了最具煽動性的聲音,因為具有分歧觀點的觀點非常吸引人。而橋接式排名則使用一組不同的訊號來確保內容的高低排名。其中一種方法是提高那些能從通常持不同意見的人那裡獲得正面反饋的內容的排名。這激勵內容製作者考慮他們的內容如何在"另一方"中產生共鳴。Facebook 泄露的內部檔案中有證據表明,Facebook 測試了這種排序方式來排列評論。正面參與度高的評論被發現質量更高,並且"很少"會被舉報為欺負、仇恨或煽動暴力行為。類似的策略也在 X 上的社區筆記中使用,這是一個眾包的事實核查功能,可以識別是否對兩種政治立場的人有幫助的筆記。這種"多樣正向反饋"的模式是最廣泛使用的橋接方法。其他方法包括降低宣揚黨派暴力的內容的排名,或者使用調查來塑造演算法,使其根據使用者的長期感受來提高內容的排名,而不是短期感受。

橋接的重要性

沒有衝突或意見不合是社會的重要組成部分,也是政治和社會變革的重要推動力。橋接的目標不是消除衝突或分歧,而是促進建設性的衝突。這被稱為衝突轉化。專業的調解人、協商人和"和平建設者"對衝突的升級過程有著詳細理解,他們知道如何在對立的群體之間建立相互理解和信任的溝通方式。橋接式排名的研究可以利用這一點,從物理世界中的衝突管理中獲得啟示,並將其轉化為數位系統。例如,在"選擇加入"、無威脅的環境中促進不同對立群體的接觸可以減少偏見,我們可以設計社交平臺線上上創造這些條件。

為何大型科技公司應該採用橋接式排名

像 Meta 這樣的公司以"注意力經濟"和促進短期參與度的內容建立了他們的財富,因此收入也是如此。我們當前還不知道橋接和參與度的目標是否相互矛盾。如果你與社交媒體平臺的員工交談,他們會告訴你,當他們測試演算法的善意變更時,使用者參與度有時會一開始下降,但隨後會逐步反彈,最終獲得更多參與度。問題在於,這些平臺通常對實驗失去了信心,在觀察到長期受益之前就取消了實驗。來自 Facebook 泄露檔案的證據表明,加入橋接可以改善使用者體驗。橋接式排名可能還會帶來更多的好處。透過減少毒性和違反社區準則的內容,橋接式排名可能會減少昂貴的內容審查需求。展示出願意使他們的演算法更少產生分歧也會增添對監管機構的好感,從而減少聲譽和法律風險。例如,Facebook 因涉嫌在緬甸、斯裏蘭卡和衣索比亞煽動暴力而受到嚴厲批評,隨後面臨受害者和社區提起的訴訟,索賠金高達 1500 億英鎊。

問題與挑戰

關於橋接式排名還存在著重要的問題,我們在與 Knight First Amendment Institute 合作撰寫的最近一篇論文中提出了其中的許多問題。應該橋接哪些分歧?是否會產生意想不到的後果,例如以主流觀點代替少數意見?如何在民主中做出有關大眾傳播技術設計的決策?橋接並不是萬能的解決方案。演算法的改變只能在有限的程度上解決社會衝突問題,這是不平等等複雜因素造成的。但透過認識到數位平臺正在重塑社會,我們有義務引導這個過程朝著以倫理和人文為導向的方向發展,發揮我們最好的一面。實現這一目標既需要科技公司去構建這些系統,也需要參與的公眾創造出以社會凝聚為目標的技術。我們必須做出這個選擇。

"Bridge"-社交媒體演算法,重新設計,橋接分歧

程宇肖

程宇肖

Reporter

大家好!我是程宇肖,我對於科技的發展和應用有著濃厚的興趣,並致力於將最新的科技趨勢和創新帶給大家。科技領域的變化速度驚人,每天都有令人興奮的新發現和突破。作為一名部落格作者,我將帶領大家深入探索科技的奧秘和應用的無限可能。