AI+安全
數據安全
數據基礎設施
態勢感知
云安全
基礎安全
終端安全
商用密碼
軟件供應鏈安全
網絡空間靶場
工業互聯網安全
物聯網安全
安全托管服務
運營管理服務
公司
上榜國際頂級學術期刊，安恒信息聯邦學習領航科技創新
近日，由安恒信息博士后工作站的劉恬博士主導的針對聯邦學習的安全攻擊研究“FacilitatingEarly-Stage Backdoor Attacks in Federated Learning with Whole PopulationDistribution Inference”，被物聯網領域國際頂級學術期刊《IEEE Internet of ThingsJournal》收錄并在線發表。
IEEE Internet of Things Journal（簡稱IoTJ）是國際電氣和電子工程師協會（IEEE）于2014年創建的物聯網領域的頂級期刊。該期刊最新的影響因子高達10.238，是SCI檢索期刊，同時也是中科院一區Top期刊以及JCR一區期刊。該研究的第一作者是安恒信息博士后工作站的劉恬博士，其第一完成單位為之江實驗室和安恒信息。
1
研究背景
隨著聯邦學習在各個領域的普及，其安全性變得愈發重要。聯邦學習涉及多個參與方共同訓練模型。由于無法驗證參與方上傳的模型的合法性，可能會遭受來自惡意參與方的后門攻擊，即惡意參與方對訓練數據進行投毒，目的是使聯邦模型對于帶有特定“后門”的數據錯誤分類。在實際場景中，多次注入的后門攻擊可以取得較好的攻擊效果，然而單次后門攻擊在現實場景中的攻擊效果有限。
2
研究內容
該研究首先分析了單次后門攻擊受限的原因。后門攻擊通過對聯邦學習全局模型進行替換以達到攻擊目的。由于在聯邦學習模型聚合時，正常模型參數起到了稀釋惡意攻擊參數的作用，因此單次后門攻擊很難達到理想的攻擊效果。研究發現，通過促進聯邦學習全局模型的收斂，可以降低這種稀釋作用，從而提高后門攻擊的成功率。
接著，研究提出了一個兩階段的后門攻擊算法。在第一階段（準備階段），攻擊者發起對全局數據分布的推理攻擊，通過使本地數據分布與全局數據分布對齊，促進全局模型的收斂。在第二階段（攻擊階段），攻擊者發起常規的后門攻擊。該攻擊通過向本地數據添加“后門”并翻轉數據標簽，將在注入數據上訓練的模型發送到中心服務器。
兩階段后門攻擊實施流程
最后，通過對提出的攻擊模式進行了測試，驗證了該方法對于聯邦學習單次后門攻擊成功率以及留存時間的提升。同時，還分析了該攻擊的潛在防御手段。
部分實驗結果
本研究對聯邦學習的安全性進行了深入探究，在安恒信息的數據安全島聯邦學習平臺上已經成功實現了產品轉化。通過對潛在的安全漏洞進行提前修補，為實際應用和推廣打下了堅實的基礎。未來，安恒信息將深入探索聯邦學習的安全與隱私問題，提出安全高效的安全與隱私保護技術路徑，提升聯邦學習在實際應用中的可靠性和穩定性，為數據安全保駕護航。
