加速 AI 任務同時保護資料安全
背景
近年來隨著計算密集型機器學習應用的普及，裝置製造商通常會將專用硬體元件整合到裝置中，以快速移動和處理這些系統所需的大量資料。然而為這些被稱為深度神經網路加速器的元件選擇最佳設計是一個具有挑戰性的問題，因為它們有各種不同的設計選項。這個問題變得更加複雜，當設計師試圖新增保護資料免受攻擊者侵害的加密操作時。SecureLoop：加速 AI 任務的搜尋引擎
麻省理工學院的研究人員開發了一個名為 SecureLoop 的搜尋引擎，該引擎能夠高效地識別深度神經網路加速器的最佳設計，既能增加效能，又能保護資料安全。 SecureLoop 能夠考慮資料加密和取證措施對加速器晶片的效能和能量使用的影響，幫助工程師獲得最適合其神經網路和機器學習任務的加速器設計。 與不考慮安全性的傳統最佳化技術相比，使用 SecureLoop 可以提高加速器設計的效能，同時確保資料的保護。 使用 SecureLoop 可以幫助使用者提高要求較高的 AI 應用程式，如自動駕駛或醫學影象分類的速度和效能，同時確保敏感使用者資料免受某些型別的攻擊。設計挑戰
一個深度神經網路由多個相互存取的節點層組成，用於處理資料。通常，一層的輸出成為下一層的輸入。資料被分組成稱為塊的單位，以在晶片之間進行處理和傳輸。神經網路的每一層都可以有自己的資料分割組態。深度神經網路加速器是一個處理器，其計算單元陣列可以並行處理網路中的每一層中的操作，如乘法。加速器計劃描述了資料如何移動和處理。由於加速器晶片的空間有限，大多數資料儲存在晶片外的儲存器中，加速器在需要時從儲存器中提取資料。然而由於資料儲存在晶片外，攻擊者有可能竊取訊息或更改某些值，從而導致神經網路發生故障。 為了保護資料，製造商可以在加速器中新增身份取證加密功能。加密使用祕密金鑰對資料進行混淆。然後，取證將資料分成統一大小的塊，並為每個資料塊分配一個密碼雜湊值，該值與資料塊一起儲存在晶片外的儲存器中。當加速器提取加密的資料塊時，它使用祕金鑰恢復並取證原始資料，然後將其進行處理。然而取證塊和資料塊的大小不匹配，所以一個塊中可能有多個資料塊，或者一個資料塊可能被劃分到兩個塊中。加速器無法任意提取部分取證塊，因此可能會抓取額外的資料，這需要額外的能量和降低計算速度。此外加速器仍然需要對每個取證塊執行加密操作，增加了更多的計算成本。SecureLoop 的效能
SecureLoop 透過改進 MIT 之前開發的搜尋引擎 Timeloop，增加了能夠考慮加密和取證的額外計算的模型。然後，他們將搜尋問題重新制定為一個簡單的數學運算式，使 SecureLoop 能夠比搜尋所有可能的選項更高效地找到最理想的身份取證塊大小。 最後他們結合啟發式技術，確保 SecureLoop 能夠識別出最大化整個深度神經網路效能的加速器計劃，而不僅僅是單個層次的效能。 測試模擬器中，SecureLoop 識別出的計劃比其他不考慮安全性的方法快 33.2％，顯示出 50.2％更好的能量延遲產品（與能源效率有關的指標）。 此外研究人員還使用 SecureLoop 探索了當考慮安全性時加速器的設計空間如何改變。他們發現，在將加密引擎晶片區域增加一點並犧牲部分用於晶片上記憶體的空間時，可以獲得更好的效能。 研究人員還希望將 SecureLoop 用於尋找能夠抵抗側通道攻擊的加速器設計，側通道攻擊是指攻擊者能夠接觸到物理硬體的情況。例如，攻擊者可以監視裝置的能量消耗模式，以獲取祕密訊息，即使資料已加密。他們還在擴充套件 SecureLoop，使其適用於其他型別的計算。結論和展望
SecureLoop 是麻省理工學院開發的一個搜尋引擎，能夠幫助裝置製造商識別加速器的最佳設計，同時確保資料安全並提高效能。這一研究成果有望在加速 AI 應用的同時保護資料安全方面提供重要的技術支援。未來，研究人員計劃將 SecureLoop 應用於更多不同的計算領域，並探索抵抗更多型別攻擊的加速器設計。這項研究的成果為 AI 技術的發展提供了有價值的指導，並提醒我們在追求高效能加速器的同時必須不斷加固資料安全的保護。延伸閱讀：
1. SecureLoop: Design Space Exploration of Secure DNN Accelerators: par.nsf.gov/biblio/10465225-se ... ure-dnn-accelerators （內容參考自麻省理工學院新聞網）Cybersecurity-加速 AI 任務,資料安全,保護資料,AI 加速,資料保護
