新一代 AI 系統在釣魚試驗中幾乎具備人類的欺騙性
AI 模型 ChatGPT 在釣魚試驗中生成說服力極高的釣魚郵件
根據 IBM X-Force 的最新研究報告，當今的 AI 模型能夠在幾分鐘內從僅僅五段簡單提示中生成一封說服力極高的釣魚郵件。然而人類仍用了長達 16 個小時的時間才能完成同樣的任務。這項研究顯示 AI 模型在模仿人類行為方面取得了巨大進展，但人類當前在這方面仍佔據優勢。
AI 模型 ChatGPT 生成釣魚郵件的過程
在這項研究中，IBM 的人們使用了 AI 模型 ChatGPT 生成釣魚郵件。他們給 ChatGPT 提供了五個提示，指示模型針對醫療保健行業的員工生成釣魚郵件。最終這封郵件被傳送給了一家全球醫療保健公司的 800 名員工。ChatGPT 的指示包括對行業員工最關心的領域進行辨識以及指出在社交工程和銷售中應該使用的技巧。最後 ChatGPT 在短短五分鐘內生成了一封相當說服力的釣魚郵件。
人類團隊的詳盡過程
在 AI 模型 ChatGPT 生成釣魚郵件之後，IBM 的人們展開了一系列的工作，包括從 LinkedIn、組織的部落格以及 Glassdoor 評論等網站中獲取公開可存取的訊息。然後，他們開始“詳細地構建”他們的釣魚郵件，其中包括一份“僅需幾分鐘”完成的“五個簡短問題”的員工調查問卷，並要求在“本週五之前”提交。最後這封郵件被傳送給了一家全球醫療保健公司的 800 名員工。
人類在釣魚試驗中勉強獲勝
最終人類生成的釣魚郵件比 AI 模型生成的郵件更成功，但差距並不大。人類生成的郵件的點選率為 14%，而 AI 模型生成的郵件的點選率則為 11%。IBM 的人們認為，這是因為人類團隊在郵件中能夠情感上與員工建立聯絡，並聚焦於公司內部的一個真實案例，而 AI 模型則選擇了一個更為普遍的話題。此外人類生成的郵件中包含了收件人的姓名，而 AI 生成的郵件則沒有。最後人類生成的主題行簡明扼要（例如：“員工健康調查”），而 AI 生成的主題行則更長，從一開始就可能引起懷疑。（例如：“解鎖您的未來：在 X 公司的有限晉升機會”）。這也導致了 AI 郵件的報告率較高（59%），而人類釣魚郵件的報告率則為 51%。IBM 的 Stephanie Carruthers 表示組織應該教育員工注意傳統紅旗之外的警示訊號，並且摒棄“所有釣魚郵件都有拙劣語法”的刻板印象。她指出，釣魚郵件中通常展示出正確的語法，這是由於 AI 驅動的釣魚郵件往往展示出正確的語法。員工應該接受培訓，警覺長度和複雜性的警示訊號。 “透過向員工提供這些訊息，組織可以幫助他們免受損害”，她說。
為什麼釣魚仍然如此普遍？
無論是人類生成的還是 AI 生成的，釣魚仍然是攻擊者最常用的手段之一，因為簡單來說它行之有效。Carruthers 表示：“創新往往落後於社交工程，這很可能是因為舊的詭計年復一年地繼續奏效，我們看到釣魚成為入侵者的首選入口。”這種策略之所以如此成功，是因為它利用了人類的弱點，誘使我們點選連結或提供敏感訊息。例如，攻擊者利用人類對幫助他人的需求和渴望，或者製造一種虛假的緊迫感，迫使受害者立即行動。此外這項研究還表明，新一代 AI 系統透過加快駭客生成說服力強的釣魚郵件的速度，提高了駭客的生產率。在節省下來的時間中，他們可以投入到其他惡意活動中。組織應該主動改進他們的社交工程計劃，包括簡單易行的語音號碼釣魚攻擊，加固身份和存取管理工具，並定期更新威脅檢測系統和員工培訓資料。Carruthers 表示：“作為一個社區，我們需要測試和研究攻擊者如何利用生成 AI，透過理解攻擊者如何利用這項新技術，我們可以幫助[組織]更好地應對這些不斷演變的威脅。”
延伸閱讀
- 無線耳機升級帶來 ChatGPT 貼心助手 - Nothing 最新耳機震撼登場
- ChatGPT 不再需要帳戶 - 但有一個小陷阱
- AI 動力對話機器人 ChatGPT：一切你需要知道的
- 協變科技致力於打造 ChatGPT 機器人
- YouTube Create 應用程式擴充套件至 13 個新市場，與 TikTok 的創意工具對決
- Glean 欲在企業市場擊敗 ChatGPT 的遊戲
- 你比 ChatGPT 更黑嗎？來測測看！
- Match Group 宣布與 OpenAI 達成交易，宣告稿由 ChatGPT 撰寫
- AI 驅動的 ChatGPT：一切你需要知道的事情
- ChatGPT 現在可以記住──也可以忘記──你告訴它的事情
