人工智慧生成的推文比真人更具說服力嗎？研究發現
研究發現 GPT-3 生成的推文比真人寫的內容更具說服力
最新研究發現，與人類創作的內容相比，OpenAI 的語言模型 GPT-3 生成的推文更受人們的信任。研究人員透過對人們進行調查，看看他們是否能夠識別一個推特是由其他人還是由 Chat-GPT 寫的。結果如何呢？人們實際上無法真正識別出來。調查還要求他們判斷每個推文中的訊息是否屬實。在這一點上，情況變得更加棘手，特別是因為內容聚焦於疫苗和氣候變化等科學話題，這些話題線上上常受到大量的謠言和虛假訊息的干擾。結果發現，如果語言模型寫的是虛假訊息，研究參與者很難辨識出來，而如果是其他人寫的，他們則較容易辨識出來。同樣地，如果 GPT-3 寫的是準確的訊息，人們也更容易正確識別。換句話說，無論 AI 生成的訊息是否準確，研究中的受試者更容易相信 GPT-3。這表明了 AI 語言模型在向公眾提供訊息或誤導他們方面的強大效應。
AI 語言模型的潛在風險
研究報告的主要作者、Zurich 大學的博士後研究員兼研究資料管理員 Giovanni Spitale 表示：“這些令人驚嘆的技術很容易被利用來生成任何你選擇的主題上的大量誤導性訊息。”然而 Spitale 表示這並不一定是不可避免的。我們可以透過改進技術，使其更難用於傳播虛假訊息。他說：“它本身既不是邪惡的也不是善良的，它只是人類意志的放大器。”他和他的同事從 Twitter 上收集了關於疫苗、新冠病毒、氣候變化和進化等 11 個不同科學話題的帖子，然後讓 GPT-3 寫出內容正確或不正確的新推文。他們透過 2022 年在 Facebook 上的廣告收集了 697 名參與者的回應。這些參與者主要來自英國、澳大利亞、加拿大、美國和愛爾蘭，他們的結果發表在《科學進展》期刊上。
GPT-3 生成的內容與真人內容無法區分
研究結果顯示，GPT-3 生成的內容和有機內容“幾乎無法區分”。調查的參與者無法判斷出兩者的差異。實際上研究還指出，其局限之一是研究人員無法 100％確保他們從社交媒體上收集到的推文是否是由像 ChatGPT 這樣的應用程式協助生成的。這項研究還有其他約束，參與者必須在沒有上下文的情況下評判推文，他們不能檢視推文作者的 Twitter 資料，這可能有助於確保是否有機器人的存在。即使看到帳號的過往推文和資料照片，也可能更容易辨識出與該帳號聯動的內容是否具有誤導性。
鑑別虛假訊息的能力
研究還發現，在某些情況下，受試者對準確性的判斷比 GPT-3 更有能力。研究人員同樣要求語言模型分析推文，判斷它們是否準確。當涉及判斷虛假訊息時，人們和 GPT-3 的表現相似。然而在鑑別準確訊息方面，人類的判斷能力優於 GPT-3。本研究強調改進培訓語料庫的資料集，可以使惡意使用這些工具進行誤訊息活動變得更加困難。研究還發現，GPT-3 在生成關於疫苗和自閉症的虛假訊息時“違背”了研究人員的提示，這可能是由於相對於其他議題，在培訓語料庫中有更多的解謎論的訊息反駁虛假訊息。
對抗虛假訊息的長期策略
Spitale 表示對抗虛假訊息最好的長期策略是提倡批判性思維技能，使人們更好地分辨事實和虛構。研究指出，參加調查的普通人似乎已經能夠在判斷準確性方面與 GPT-3 相當，受過一些培訓後，他們可能在這方面的能力更加優秀。研究提出，優秀的事實核查人員可以與 GPT-3 等語言模型合作，改進合法的公共訊息活動。Spitale 表示：“不要誤會我，我是這項技術的忠實粉絲。我相信敘事型 AI 將改變世界...現在由我們來決定它將變得更好還是更壞。”
延伸閱讀
- 推特聯合創始人 Biz Stone 加入 Mastodon 新的美國非營利組織董事會
- X 正式更名為推特，因塔克·卡爾森與普京的訪談新聞登上美國應用商店之冠
- 三名舊金山主管因 YC 總裁 Garry Tan 的推特而受到威脅
- 特斯拉執行長馬斯克一年後的推特：所有你需要知道的事情
- 推特平臺全球正在推出不帶井號符號的推特主題標籤
- Flipboard 停止發推特，推出新的播客節目介紹去中心化社交應用
- Instagram 測試合作推特可供朋友加入的貼文輪播機制
- 馬斯克推特一年後：一切你需要知道的事情
- 「極右派推特惡魔因 2016 年選舉言論被判七個月牢獄」
- 42%的 Mac 使用者每天使用 AI 應用程式：研究發現
