AI 在運營技術中的潛在影響、測試與可靠性
運營技術中的 AI 影響、測試與可靠性
人工智慧（AI），尤其是生成式 AI 應用程式（如 ChatGPT 和 Bard）自 2022 年 11 月開始普及以來，一直在主導新聞頭條。生成式預訓練轉換器（GPT）通常用於基於大量文字資料訓練的生成文字。無疑，生成式 AI 已經創作了新歌曲、建立了影象和起草了電子郵件（以及其他很多事情），同時也引起了對其如何使用或濫用引起的合法倫理和實際問題的關注。然而當你將生成式 AI 的概念引入操作技術（OT）領域時，就會帶出一些關於潛在影響、測試方法和如何以有效且安全的方式使用它的重要問題。
在 OT 領域中，運營的重點是重複性和一致性。目標是擁有相同的輸入和輸出，以便能夠預測任何情況的結果。當發生不可預測的情況時，總是有一名人員在後臺，準備根據可能的後果快速做出決策，尤其是在關鍵基礎設施環境中。在訊息技術（IT）領域，後果通常遠遠不如失去資料重大，而在 OT 領域，如果石油精煉廠起火，可能會造成生命成本、對環境的負面影響以及嚴重的責任問題，還有長期的品牌損害。這強調了在危機時期做出快速且準確的決策的重要性。這也是為什麼僅僅依賴於 AI 或其他工具在 OT 運營中並不完美的原因，因為一個錯誤的後果是巨大的。
AI 技術使用大量的資料來做出決策並建立適當的邏輯。在 OT 領域，如果 AI 做出錯誤的判斷，可能會產生嚴重且多方面的負面影響，而責任問題尚不明確。例如，微軟提出了一份關於公共 AI 管理的藍圖，旨在透過公共政策、法律和監管，建立起解決當前和新興問題的 AI 風險管理框架。該藍圖呼籲政府領導的 AI 安全框架以及用於控制關鍵基礎設施的 AI 系統的安全制動器，這樣社會就能夠確保如何適當地控制新能力的 AI。
提升紅隊藍隊演習
“紅隊”和“藍隊”這兩個概念指的是系統或網路安全測試和提升的不同方法。這兩個術語起源於軍事演習，並被進一步用於網路安全社區。為了更好地保護 OT 系統，紅隊與藍隊合作，但基於不同的觀點：紅隊試圖找到漏洞，而藍隊則專注於防禦這些漏洞。其目標是建立一個現實情境，紅隊模擬現實世界的攻擊者，藍隊根據從演習中獲得的見解來應對並改進自己的防禦。團隊可以利用 AI 技術模擬網路攻擊，測試系統可能受到攻擊和防御的方式。在紅隊藍隊演習中利用 AI 技術將非常有幫助，可以彌補技術工人短缺或缺乏資金投入的短板，甚至為訓練有素且人員配備齊全的團隊提供新的挑戰。AI 可以幫助發現攻擊向量，甚至可以突顯以前評估中未被發現的漏洞。這種演習將突出可能危及控制系統或其他重要資產的各種方式。此外 AI 還可以被用於防守，提供各種關閉紅隊侵入計劃的方式。這可能會揭示保護生產系統和改善整體系統安全性的新途徑，從而提高整體防禦能力並制定適當的應對計劃以保護關鍵基礎設施。
數位孿生 + AI 的潛力
許多先進的組織已經在其 OT 環境中建立了數位孿生，例如一個石油精煉廠或發電廠的虛擬版本。這些數位孿生是基於該公司的全面資料集構建的，以匹配其環境。在受控且封閉的數位孿生環境中，您可以使用 AI 來對不同技術進行壓力測試或最佳化。這種環境提供了一種安全的方法，可以觀察更改某些部分的結果，例如，嘗試新系統或安裝不同大小的管道。數位孿生將允許運營人員在實施生產操作之前測試和取證技術。利用 AI，您可以使用自己的環境和訊息尋找提高產量或最小化停工所需時間的方法。在進行這些變更之前，在真實的生產環境中進行多少數位孿生測試是難以確保的。如果測試結果不完全準確，可能會導致停電、嚴重的環境影響甚至更糟糕的後果，具體取決於行業的特定情況。因此將 AI 技術引入 OT 領域的採用可能會緩慢而謹慎，為長期 AI 管治計劃的形成和風險管理框架的建立提供時間。
增強 SOC 能力並減少運營人員的噪音
AI 也可以在不涉及生產裝置和流程的安全方式下，在安全運營中心（SOC）環境中用於支援 OT 企業的安全和增長。組織可以利用 AI 工具充當 SOC 分析師，檢查異常情況並理解來自各種 OT 系統的規則集。同樣，這需要利用新興技術來填補 OT 和網路安全方面的技能鴻溝。AI 工具也可以減少警報管理或資產可見性工具中的雜音，提供建議性的操作或根據風險評分和規則結構審查資料，以節省員工專注於最優先和最有影響的任務所需的時間。
AI 和 OT 的未來
AI 已經在 IT 領域迅速被採用，而這種採用也可能影響到 OT，因為這兩個環境越來越趨於融合。IT 領域的事件可能對 OT 環境產生影響，正如殖民地石油管線的勒索軟體攻擊導致管線運營暫停的情況所示。因此 IT 中 AI 的增加可能會對 OT 環境引起擔憂。
首先我們需要為 AI 規劃制度，將其約束於對可靠性影響較小的領域，以確保可用性不受影響。擁有 OT 實驗室的組織必須在與廣泛網際網路不存取的環境中對 AI 進行廣泛測試。就像不允許外部通訊的空氣隔離系統一樣，我們需要基於內部資料構建安全且受到保護的封閉 AI 環境，以安全地利用生成式 AI 和其他 AI 技術的能力，而不會將敏感訊息和環境、人類或更廣泛的環境置於風險中。
面向未來的機遇 —— 今日的體驗
AI 提升系統、安全和效率的潛力幾乎是無窮的，但在這個有趣的時期，我們需要優先考慮安全性和可靠性。這並不是說我們今天不看到 AI 和機器學習（ML）的好處。因此雖然我們需要意識到 AI 和 ML 在 OT 環境中存在的風險，作為一個行業，我們也必須像對待任何新的技術一樣，學習如何安全地利用它的益處。
瑪特·懷斯曼（Matt Wiseman）是 OPSWAT 的高級產品經理。
歡迎加入 VentureBeat 社區！DataDecisionMakers 是專家分享與資料相關的見解和創新的地方，其中包括從事資料工作的技術人員。如果您想閱讀尖端的思想和最新訊息以及最佳實踐和資料技術的未來，請加入我們的 DataDecisionMakers 社區。您甚至可以考慮撰寫自己的文章！
閱讀更多：DataDecisionMakers
延伸閱讀
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
