人工智慧在國家安全中的雙面影響
國家安全域性(NSA)網路主管指出:AI 協助國家級駭客,同時也助力美國間諜
美國國家安全域性(NSA)網路主管 Rob Joyce 表示國家支援的駭客和犯罪分子正在利用生成式人工智慧進行網路攻擊,但美國情報機構也利用人工智慧技術來發現惡意活動。Joyce 在紐約福特漢姆大學的一次會議上講述了這一觀點。他指出:「我們已經看到犯罪和國家元素正在利用 AI。他們都訂閱了你所期待的大型公司 - 所有的生成式 AI 模型都在其中。」Joyce 表示「在生成式 AI 模型上,情報運營者和犯罪分子的身影也隨處可見。」
AI 助力情報機構發現惡意行為
儘管 AI 被濫用於網路攻擊和間諜活動,但 Joyce 也指出,AI、機器學習和深度學習確實使美國情報機構更加善於發現惡意活動。Joyce 強調中國支援的駭客最近針對美國關鍵基礎設施的攻擊,是 AI 技術如何顯示出惡意活動,從而讓美國情報機構佔盡上風。他認為,AI 對於歹意行為的發現帶來了優勢。
挑戰和風險
Joyce 指出,AI 同時具有雙面性。濫用 AI 的人或國家會讓其更具威脅性。此外 AI 技術的進步還會讓攻擊者更善於製造模擬的電子郵件或複雜的惡意影響。
政策與保障
美國政府於 10 月頒布了一項旨在建立 AI 安全與保障標準的行政命令,同時推動加固防範濫用和錯誤的措施。聯邦貿易委員會最近警告指出,像 ChatGPT 這樣的 AI 技術可以用於「加速詐騙和騙局」。
結語
盡管 AI 的應用帶來了潛在的危險,但 Joyce 強調 AI 並非可以讓無能的人變得有能力,而是讓使用 AI 的人變得更加危險。儘管 AI 在網路安全中具有潛在的危險性,但對於解決這一挑戰,我們需要更加明智的政策來管理和監管 AI 的應用。
延伸閱讀
- 深入剖析 TikTok 圍繞言論自由和國家安全主張的法律論點
- 駭客威脅公開大量的被盜制裁和金融犯罪監視名單
- 駭客竊取了政府諮詢公司的 34 萬名社會安全號碼
- 美歐達成協議,共同加固人工智慧安全與風險研究
- 賽事暫停: 選手比賽中遭駭客攻擊
- 安雅科比使用者表示其 3D 列印機遭駭客攻擊,以警示安全漏洞
- 「Framework 框架表示駭客透過針對會計合作夥伴的釣魚攻擊存取客戶資料」
- 得克薩斯州醫療保健提供商 HMG Healthcare 表示駭客竊取了未加密的病人資料
- SEC X 帳戶遭駭客攻擊,發布未經授權的推文關於比特幣現貨 ETF
- 影視公司 National Amusements 表示遭受駭客攻擊