人工智慧生成釣魚郵件：AI vs. 人類
背景
隨著人工智慧的飛速發展，它正變得越來越能夠執行一些非凡的任務，從生成驚人的藝術作品和 3D 世界，到作為高效可靠的工作夥伴。但是生成式人工智慧（generative AI）和大型語言模型（LLMs）是否和人類一樣有欺騙性呢？根據 IBM X-Force 最新的研究，幾乎是這樣，但還沒有達到人類的水平。AI 生成與人類生成的釣魚郵件
在一項釣魚實驗中，為了測試人工智慧和人類誰能獲得更高的點選率，ChatGPT 模型只需從五個簡單的提示中，在幾分鐘內生成了一封讓人信以為真的郵件。而相比之下，IBM 的社交工程師 Stephanie Carruthers 表示她的團隊需要花費大約 16 個小時才能生成一封類似的郵件。 ChatGPT 模型接收到五個提示，讓它生成針對醫療行業員工的釣魚郵件。該模型被問及行業員工最關注的領域，它對職業晉升、工作穩定性和充實的工作等方面進行了描述。然後，在被問及應該使用哪些社交工程和市場銷售技巧時，ChatGPT 提到了信任、權威、社會證實以及個性化、移動最佳化和行動呼籲。最後模型建議郵件應該由內部人力資源經理發出。最終在短短五分鐘內，ChatGPT 生成了一封令人信服的釣魚郵件。人工智慧還未戰勝人類
最終人類生成的釣魚郵件比人工智慧的郵件的點選率稍高。人生成的郵件的點選率為 14%，而 AI 的點選率為 11%。Carruthers 指出，人類生成的郵件之所以成功，是因為它們能夠透過關注公司內部的一個合法例子來建立情感聯絡，而 AI 則選擇了一個更廣泛的話題。此外人類性指示郵件中包含了收件人的名字。此外由於 AI 生成的主題行比較冗長（“Unlock Your Future: Limited Advancements at Company X”），可能從一開始就引起了懷疑，導致了 AI 郵件更高的舉報率（59%）。Carruthers 指出，組織應該教育員工，不要只關注傳統的警示標誌，而應該培訓他們去警惕長度和複雜性等方面的問題。為什麼釣魚郵件如此猖獗？
無論是由人類還是由 AI 生成的，釣魚郵件仍然是攻擊者們的首選策略，因為它簡單而有效。攻擊者利用人類的弱點，誘使我們點選連結或提供敏感訊息。例如，攻擊者利用人類的需求和渴望去幫助他人，或者創造一種虛假的緊迫感，迫使受害者迅速行動。此外研究還表明，生成式人工智慧能夠提高駭客生成令人信服的釣魚郵件的速度，從而節省時間，專注於其他惡意目的。建議
為了應對這一不斷演進的威脅，組織應該採取積極的措施，重新構建他們的社交工程計劃，包括簡單易行的聲音呼叫/語音郵件釣魚（vishing），加固身份取證和存取管理（IAM）工具的使用，定期更新威脅偵測系統和員工培訓材料。同時組織應該嚴格執行 TTPS（威脅戰術、技術和程式），加固安全風險管理，建立完善的安全鏈，以保護組織不受釣魚郵件等新興威脅的影響。 作為一個社區，我們應該測試和研究攻擊者如何利用生成式人工智慧進行攻擊，以幫助組織更好地應對和防禦這些不斷演變的威脅。透過理解攻擊者如何利用這項新技術，我們可以幫助組織更好地做好準備，對抗這些不斷演變的威脅。Phishing-IBMX-Force,ChatGPT,釣魚,人工智慧,安全,對抗,技術,IBM,X-Force
延伸閱讀
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
- Rad AI 完成由 Khosla Ventures 領投的 5 千萬美元 B 輪融資
- 「Meta AI 對印度男性生成影象時偏好頭巾」
