AI 釣魚信與人類的對決:AI 在還不能完全與人類相媲美的同時要警惕其潛力
背景
近日 IBM X-Force 的研究發表了一項關於人工智慧(AI)和人類在釣魚行為上的對比研究。他們使用了 ChatGPT 這一大型語言模型(LLM),透過 AI 生成的釣魚信與人工生成的釣魚信進行了比較。結果顯示,儘管 AI 的釣魚信在近乎逼真的表現上與人工要勝一籌,但人類畢竟還保持著領先地位。實驗過程
研究團隊首先讓 ChatGPT 生成了一封針對醫療行業員工的釣魚信,並向全球一家醫療公司的 800 名員工傳送該郵件。相比之下,IBM 研究人員表示他們需要大約 16 個小時才能生成類似的釣魚信。對比結果顯示,雖然 AI 的釣魚信僅僅落後於人工生成的釣魚信,但人類最終還是取得了勝利。勝負關鍵
在這項實驗中,人工生成的釣魚信的點選率為 14%,而 AI 生成的釣魚信的點選率為 11%。IBM 的研究人員指出,人工生成的釣魚信之所以勝出,原因在於它們更能情感上與員工產生連結,同時更注重個人化和簡潔的郵件主題。相比之下,AI 生成的釣魚信的郵件主題更冗長,從一開始就引起了員工的懷疑。此外 AI 生成的釣魚信更容易被員工舉報。因此研究人員建議組織應該教育員工不只關注傳統的風險指標,例如語法錯誤,而應該提高對信件主題的警惕。AI 威脅和應對
儘管 AI 在釣魚信生成方面落後於人類,但這項研究顯示 AI 已經具備了逼真生成釣魚信的能力,並且還能大大節省攻擊者的時間。組織應該著手改進他們的社會工程學方案,強化身份和存取管理工具,定期更新威脅偵測系統和員工培訓材料,以應對不斷進化的威脅。結論
人工智慧在釣魚行為方面的潛力不可小覷。儘管當前 AI 在模仿人類釣魚行為方面還有較大的差距,但隨著 AI 不斷的演進,它有可能在某一天超越人類。因此組織和個人應該重視教育員工,提高他們對釣魚信的警覺性。同時研究人員應該繼續探索和研究 AI 如何利用這一新技術,以幫助組織更好地應對這些瞬息萬變的威脅。資料來源:
- IBM X-Force 研究
- VentureBeat 文章
Cybersecurity-IBMX-Force,ChatGPT,釣魚,對決,人類,強大
延伸閱讀
- 無線耳機升級帶來 ChatGPT 貼心助手 - Nothing 最新耳機震撼登場
- ChatGPT 不再需要帳戶 - 但有一個小陷阱
- AI 動力對話機器人 ChatGPT:一切你需要知道的
- 協變科技致力於打造 ChatGPT 機器人
- YouTube Create 應用程式擴充套件至 13 個新市場,與 TikTok 的創意工具對決
- Glean 欲在企業市場擊敗 ChatGPT 的遊戲
- 你比 ChatGPT 更黑嗎?來測測看!
- Match Group 宣布與 OpenAI 達成交易,宣告稿由 ChatGPT 撰寫
- AI 驅動的 ChatGPT:一切你需要知道的事情
- ChatGPT 現在可以記住──也可以忘記──你告訴它的事情