假五角大樓襲擊事件引發 Twitter 認證危機
近日一張五角大樓爆炸照片在 Twitter 上瘋傳,然而這個事件其實從未發生。值得注意的是,這張照片是由 AI 生成的,當它出現在名為“Bloomberg Feed”的 Twitter 帳戶上時,因該帳戶擁有藍色勾勾認證,容易讓人誤以為是 Bloomberg 新聞的正式帳戶。後來這個帳戶已經被暫停。但俄羅斯國有新聞網路 RT 也分享了這張照片,而且一些 Twitter 帳戶也跟著分享,其中包括有數十萬粉絲的 DeItaone、OSINTdefender 和 Whale Chart。此外印度的一家電視網路也報導了這個假訊息。然而這張虛假照片源頭問題尚待澄清。
危機感
這不是假訊息第一次成功瞞騙了網際網路,但是當假事件是一個美國政府大樓的爆炸而不是教皇穿戴名牌外套時,危害自然就更大了。有報導指出,這個假照片可能與 S&P 500 指數 25 個基點的波動有關,但是此次下跌持續時間不長,無法證實它是否完全是這個惡作劇引起的。然而這次事件喚起人們對於生成式 AI 如何在未來搞垮股市的疑慮。Reddit 也曾透過這種方式影響過股市。
Twitter 的認證系統崩潰
假訊息一直以來都是網際網路上的一個問題,但是隨著生成式 AI 的進一步發展和 Twitter 認證系統的改變,問題變得更加嚴重了。Jack Dorsey 已經決定撤銷掉舊的藍色勾勾認證系統,並讓任何人都能夠透過財務支付獲取這個認證。客觀地說,人們應該已經意識到藍色勾勾不再意味著帳號的正當性,但是凡事總有由來已久的經驗和視覺習慣——如果你看到一個叫做“Bloomberg Feed”的帳戶,它擁有藍色勾勾的認證並發布五角大樓遭受襲擊的訊息,你可能會很自然地認為這是實話實說的。例如直到 15 年前,藍色勾勾真的意味著正當性。當現在越來越難識別虛假照片時,未來我們只會看到更多這樣的假訊息。
結論與建議
當今社會,假訊息已經彰顯了其可怕的一面,我們必須保持警惕,從我們自己開始,切勿信以為真,太靠信傳媒。因為即使在形象良好的大型新聞廣播組織中,有時也存在明顯的偏見和不準確的報導。而對於社交媒體公司而言,他們應該負起更加積極的管理責任,避免許多平臺上的假新聞等問題。可採取的措施包括採納更加嚴格的識別標準、投資 AI 技術以及加大內容審查力度等。只有這樣才能確保社交媒體繼續成為一個開放且健康的訊息交流平臺。
延伸閱讀
- 什麼是 Bluesky?一切關於這個試圖取代 Twitter 應用的事情
- Twitter「信任與安全」前負責人 Yoel Roth 加入 Tinder 母公司 Match Group
- 藍天公司贊助開發者專案,助力推動其 Twitter/X 替代方案
- 蘋果終止 Epic 的帳號,Meta 平臺被切斷連線,前 Twitter 高層起訴埃隆·馬斯克
- 前 Twitter 工程師打造被 440 萬美元支援的 AI 動力新聞閱讀器 Particle
- 藍天網路挖角前 Twitter/X 信任與安全高層,曾遭馬斯克挖角
- 新聞大師將策劃的“社區”引入開源 Twitter/X 替代品 Mastodon
- 前 Twitter 工程師打造「 粒子 」,一個 AI 驅動的新聞閱讀器
- Facebook 進行跨平臺測試,將帖文同步到 Twitter/X 競爭對手 Threads
- Twitter/X 競爭對手 Mastodon 遭受垃圾郵件攻擊,凸顯「聯邦宇宙」的弱點