AI 釣魚信與人類的對決：AI 在還不能完全與人類相媲美的同時要警惕其潛力
背景
近日 IBM X-Force 的研究發表了一項關於人工智慧（AI）和人類在釣魚行為上的對比研究。他們使用了 ChatGPT 這一大型語言模型（LLM），透過 AI 生成的釣魚信與人工生成的釣魚信進行了比較。結果顯示，儘管 AI 的釣魚信在近乎逼真的表現上與人工要勝一籌，但人類畢竟還保持著領先地位。
實驗過程
研究團隊首先讓 ChatGPT 生成了一封針對醫療行業員工的釣魚信，並向全球一家醫療公司的 800 名員工傳送該郵件。相比之下，IBM 研究人員表示他們需要大約 16 個小時才能生成類似的釣魚信。對比結果顯示，雖然 AI 的釣魚信僅僅落後於人工生成的釣魚信，但人類最終還是取得了勝利。
勝負關鍵
在這項實驗中，人工生成的釣魚信的點選率為 14%，而 AI 生成的釣魚信的點選率為 11%。IBM 的研究人員指出，人工生成的釣魚信之所以勝出，原因在於它們更能情感上與員工產生連結，同時更注重個人化和簡潔的郵件主題。相比之下，AI 生成的釣魚信的郵件主題更冗長，從一開始就引起了員工的懷疑。此外 AI 生成的釣魚信更容易被員工舉報。因此研究人員建議組織應該教育員工不只關注傳統的風險指標，例如語法錯誤，而應該提高對信件主題的警惕。
AI 威脅和應對
儘管 AI 在釣魚信生成方面落後於人類，但這項研究顯示 AI 已經具備了逼真生成釣魚信的能力，並且還能大大節省攻擊者的時間。組織應該著手改進他們的社會工程學方案，強化身份和存取管理工具，定期更新威脅偵測系統和員工培訓材料，以應對不斷進化的威脅。
結論
人工智慧在釣魚行為方面的潛力不可小覷。儘管當前 AI 在模仿人類釣魚行為方面還有較大的差距，但隨著 AI 不斷的演進，它有可能在某一天超越人類。因此組織和個人應該重視教育員工，提高他們對釣魚信的警覺性。同時研究人員應該繼續探索和研究 AI 如何利用這一新技術，以幫助組織更好地應對這些瞬息萬變的威脅。
資料來源：
- IBM X-Force 研究
- VentureBeat 文章
延伸閱讀
- OpenAI 計劃將 Sora 影片生成器整合至 ChatGPT，開啟創意新視界！
- 「深入解析！ChatGPT 收費全攻略：你需要知道的一切」
- 「OpenAI 為付費 ChatGPT 使用者推出深度研究功能，探索智慧對話的新境界！」
- OpenAI 努力破解 ChatGPT 的約束，帶你進入無阻礙的對話世界！
- OpenAI 解除 ChatGPT 部分內容警告，背後原因大揭祕！
- ChatGPT 該不該被視為節能型 AI？最新研究揭示其能耗真相！
- 「無需登入，ChatGPT 網頁搜尋功能全新上線！」
- 「ChatGPT 產品負責人將在美國政府對抗 Google 的案件中作證！」
- 《徹底解析 ChatGPT：你必須知道的 AI 聊天機器人一切！》
- 「ChatGPT 全新功能上線！使用者可自定義特質如‘健談’與‘Z 世代’」
