AI 威脅著日益增長的欺詐浪潮，但也幫助應對
背景
2021/22 年度，英國報告的欺詐案件數量達到 450 萬起，較前一年增長 25%。這是一個不斷增長的問題，每年造成數十億英鎊的損失。COVID 大流行和生活成本危機為詐騙分子提供了剝削眾多家庭和企業脆弱性和絕望的理想條件。隨著 AI 的普及，我們可能會看到新型別的詐騙增加，並且這可能是當前看到的詐騙頻率增加的原因之一。
AI 能夠吸收個人資料（例如電子郵件、照片、影片和語音記錄），並模仿人類，這對於現有的詐騙手段來說是一個新的前所未有的挑戰。然而 AI 也具有逆向作用。政府、銀行和其他金融機構現在正在使用越來越複雜的詐騙檢測方法來對抗詐騙。
欺詐行為的增加原因
物價與人們收入之間的差距不斷擴大，似乎使人們更容易接受提供補助金、退稅和支援付款的詐騙。詐騙分子通常冒充真實組織，以個人為目標。例如，冒充你的銀行或政府，告訴你有一項利潤豐厚的計劃適合你，以便竊取你的身份訊息和金錢。
近年來對政府和區域支援計劃的詐騙申請急劇增加，主要是響應大流行而實施的。在這種情況下，詐騙分子通常冒充虛假企業以獲得多筆貸款或補助金。其中一個最令人匪夷所思的例子是一名路頓的男子冒充 Greggs 麵包店，從英格蘭的三個地方政府手中詐騙了近 20 萬英鎊的 COVID 小企業補助金。此類計劃的快速推出為官員們有效審查申請帶來了困難。英國政府的工商與貿易部估計，這些貸款中有 11%（約 50 億英鎊）是詐騙。到 2022 年 3 月，僅追回了 762 萬英鎊。
AI 在詐騙檢測中的應用
過去幾年中，將傳統統計技術和機器學習分析相結合的複雜數學模型，在早期檢測財務報表詐騙方面取得了一定的成果。這是指公司通常在錯誤地讓投資者相信它們比實際情況更有利可圖。其中一個突破之一是將財務和非財務訊息納入資料分析系統。例如，如果企業治理更好，且執行董事的比例較低，那麼詐騙風險就會降低。在小型企業的情況下，我們可以將其理解為促進透明度，確保重要職位沒有獨享做出重大決策的許可權。這些資料分析模型可以用於根據潛在詐騙風險對申請進行排名，以便政府官員對最高風險的申請進行額外審查。
此外銀行、金融服務提供商和保險公司也正在開發機器學習模型來檢測金融詐騙。根據英格蘭銀行在 2022 年 10 月發布的一項調查，72%的金融服務公司已經在測試和實施這些模型。我們還看到行業中的新合作，例如 Deutsche Bank 與晶片製造商 Nvidia 合作，將 AI 嵌入其詐騙檢測系統中。
AI 系統的風險
然而新的自動化 AI 系統也帶來了潛在的偏見擔憂。在英國工作和養老金部門最近的一次新的 AI 詐騙檢測系統試驗中，一些社運團體擔心其中可能存在的偏見。這類系統常見的問題是它們能常規工作於大多數人，但對待少數群體的偏見往往更大。這意味著如果不進行調整，它們有可能不成比例地將少數群體的申請標記為風險。但是 AI 系統不應被用作全自動的檢測和指責詐騙的工具，而應該作為協助評估者的工具。例如，它們可以幫助審計師和公務員識別需要進一步審查的案件，並減少處理時間。
結論
AI 的發展帶來了詐騙問題日益增長的風險，但同時也為應對詐騙提供了幫助。政府、銀行和其他金融機構正在利用越來越複雜的詐騙檢測方法來抵御詐騙行為。然而在應用 AI 系統時，我們需要注意潛在的偏見和風險，並確保其正確使用。未來，這將需要更多的監管和技術改進，以確保 AI 既能提高詐騙檢測的效率，又能兼顧個人隱私和公平性。
來源：The Conversation
延伸閱讀
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
