模擬社交媒體行為以對抗假新聞：通用語言框架
作者：安東內拉·迪馬爾齊奧（Antonella Di Marzio）、威廉與瑪麗學院
編者註：本文已依據 Science X 的編輯流程和政策進行審查。編輯們在確保內容可靠性的同時特別強調了以下特點：經事實檢查、同行評審出版物、可信賴的來源、校對
並不是你在社交媒體上意見不合的人都是機器人，但各種形式的社交媒體操縱確實被用來散播虛假言論、影響民主程式以及影響股價。根據 2019 年的估計，全球因網際網路上的惡意行為而產生的成本大約為 780 億美元。與此同時虛假資訊策略不斷演變：追查它們一直是一個被動式的事務，而惡意行為者總是走在一步之前。亞歷山大·恩瓦拉（Alexander Nwala）是威廉與瑪麗學院的助理教授，他旨在主動應對這些濫用行為。他最近在《EPJ Data Science》雜誌上與印第安納大學社交媒體觀測站的同事合著一篇論文，介紹了一個名為 BLOC 的通用語言框架，用於模擬社交媒體行為。
提供描述社交媒體行為的通用語言
恩瓦拉表示：“這個框架的主要思想不是針對特定行為，而是提供一個可以描述行為的語言。”隨著時間的推移，模仿人類行為的自動化機器人變得越來越複雜。不真實的協調行為是另一種常見的欺騙方式，這種行為通常在個別帳戶層面上看起來並不可疑，但實際上是包含多個帳戶的策略的一部分。然而並非所有自動化或協調行為都一定是惡意的。BLOC 不對“良好”或“不好”的行為進行分類，但它提供了一種描述社交媒體行為的語言，這樣可能的惡意行為就更容易被識別出來。一個用於調查可疑帳戶行為的使用者友好型工具正在威廉與瑪麗學院進行開發。威廉與瑪麗學院的 DingeInfoLab 的技術總監伊恩·麥克唐納（Ian MacDonald）正在建立一個基於 BLOC 的網站，供研究人員、記者和一般公眾使用。
檢測自動化和協調行為
恩瓦拉解釋說，這個過程始於在特定時間段內從給定的社交媒體帳戶中對帖子進行取樣，並使用特定的字母表對訊息進行編碼。BLOC 是一種基於行為和內容字母表的框架，以便以能夠適應不同的社交媒體平臺的方式來表示使用者行為。例如，像“TpπR”這樣的字元串表示一個包含四個使用者行為的序列，具體而言，是發布帖子、回覆非好友和自己以及轉發好友訊息。使用內容字母表時，相同的一組行為可以被描述為“（t）（EEH）（UM）（m）”，如果使用者的帖子分別包含文字、兩個影象和一個標籤，一個連結以及對一個好友的提及和對一個非好友的提及。獲取的 BLOC 字元串然後被標記為不同行為。恩瓦拉表示：“一旦我們有了這些單詞，我們就建立了我們所謂的向量，即這些單詞的數學表示法。”“所以我們會有各種 BLOC 單詞，然後記錄使用者表達這些單詞或行為的次數。”一旦獲得向量，資料將透過一個訓練有素的機器學習算法執行，該算法能夠識別區分不同型別的使用者（例如機器和人類）之間的模式。人類和類似機器人的行為處於光譜的兩端：在它們之間，存在著在這兩者之間擺動的“半人半機械”的帳戶。恩瓦拉說：“我們建立了能夠捕捉機器和人類行為的模型，然後找出未知帳戶更接近人類還是機器。”使用 BLOC 框架不僅僅可以協助檢測機器人，而且能夠等同或超越當前的檢測方法，還可以辨識人類帳戶之間的相似之處。恩瓦拉指出，BLOC 還被應用於檢測協調不真實帳戶，這些帳戶從試圖影響美國和西方的選舉的國家進行訊息操作。他說：“相似性是非常有用的指標。如果兩個帳戶做了幾乎相同的事情，你可以使用 BLOC 調查它們的行為，看看它們是否由同一人控制，然後進一步調查他們的行為。”BLOC 當前在應對不同形式的操縱方面是獨一無二的，並且有很大可能超越可能使流行的檢測工具過時的平臺變更。“此外如果出現我們想要研究的新行為形式，我們不需要從頭開始，”恩瓦拉說。“我們只需要使用 BLOC 來研究這種行為，可能還可以檢測它。”
超越網路惡意行為
正如恩瓦拉在他的網路科學課堂上對學生們指出的那樣，研究網路工具和技術必須考慮到社會、文化和心理維度。“在我們與技術互動時，所有這些力量都會匯聚在一起，”他說。恩瓦拉提到了 BLOC 在心理健康等領域的潛在未來應用，因為該框架支援對社交媒體行為變化的研究。然而近年來社交媒體平臺對應用程式設計介面的約束約束了社交媒體研究。恩瓦拉表示：“得益於應用程式程式設計介面的可用性，收集大量的資料進行研究才成為可能。”他說：“操縱者將能夠承擔任何維持他們行為的代價，但研究人員則無法。”恩瓦拉表示這樣的約束不僅影響研究人員，也影響著整個社會，因為這些研究有助於提高對社交媒體操縱的認識，並有助於制定有效的政策。“正如對於地方新聞媒體的日益衰落如何影響民主程式一直存在的這種持續呼聲一樣，我認為這也是興起的問題，”他說。“善意研究者能夠收集和分析大規模社交媒體資料的能力是一種公共利益，不應受到約束。”
傳真：撰寫人：埃德華·費爾森塔爾（）
