首頁 > 關于我們 > 安恒動態 > 2023 > 正文

中國網絡安全年會丨安恒信息共話AI安全與網絡安全未來

閱讀量：次 文章來源：安恒信息

9月12日，在2023年第20屆中國網絡安全年會暨國家網絡安全宣傳周的網絡安全協同治理分論壇上，安恒信息高級副總裁、安恒研究院院長王欣發表了主題演講，分享了他對AI安全和網絡安全未來發展的看法和愿景。

王欣首先指出，隨著ChatGPT等大模型的普及和應用，人工智能技術正在改變我們的生活方式和工作方式。然而，隨著AI技術的快速發展，安全問題也日益凸顯。安全與AI，既是相互博弈，又在相互成就，“讓AI更安全，讓安全更智能”，成為安全從業者的時代使命。

數字化技術的發展加速了網絡安全實戰化的步伐，安全效果導向的需求愈發突出。與此同時，企業面臨著愈加復雜且持續演變的網絡安全威脅。傳統的安全防御手段已經無法滿足當前快速應對和應急響應的需求。另外，巨大的網絡安全人才缺口也成為了企業安全運營的重大困擾。

安全垂域大模型的出現極大地緩解了安全專家不足的現狀。據《2023網絡安全產業人才發展報告》數據顯示，超過30%的受訪者認為AI可以在一定程度上替代網絡安全人才，另有35. 7%的受訪者認為AI技術將在未來五年內對網絡安全人才產生自動監測和分析等輔助作用。

王欣進一步指出，當前網絡安全產業都在研究AI大模型與安全的結合。安恒信息憑借16年的實戰經驗積累，形成了大量的細分領域安全知識數據，并將這些數據轉化為平臺級能力知識數據。經過七輪大規模的增量預訓練和數十次微調，“恒腦”逐漸形成，實現了AI與安全的深度融合。在今年的成都大運會網絡安保任務中，“恒腦”展現出了其價值，通過實戰與技術的結合，成為了一個高效、實用、能夠解決實際問題的安全大模型。

“大模型的下半場是智能體的大爆發。” 王欣介紹到，恒腦·安全垂域大模型與安恒OpenSecurity能力中臺的結合，實現了“聰明的大腦”與“勤快的手腳”的鏈接。未來，安恒信息將提供感知、決策、執行、反饋的智能一體化解決方案，智能體逐步成長為虛擬安全專家，作為未來的“靠譜的伙伴”與安全專家同行。

然而，盡管大模型在處理某些任務上具有很高的效率，但它也存在著許多安全風險。王欣提到了大模型在生成內容時產生的數據安全、知識產權以及道德與倫理等相關的合規需求。此外，大模型的惡意使用可能導致供應鏈漏洞、prompt注入等新的安全問題。另外，大模型及相關應用自身也可能存在意識形態滲透、內容幻覺等方面的安全需求。他特別強調，大模型甚至也存在著傳統軟件漏洞的安全風險。

針對這些問題，王欣表示解決AI大模型面臨的安全風險是迫在眉睫的事情。他透露，安恒信息研究院衛兵實驗室對國內外主流的幾個通用大模型進行了詳細的安全評測，均發現了許多的安全風險，從結果上看，國外的通用大模型的安全性整體要略高于國內通用大模型。

（分數越低，安全風險越高）

王欣認為，解決大模型自身安全問題，需要建設大模型的全生命周期安全解決方案，安恒信息已經通過全面分析AI大模型的存在的安全問題，從構建安全的供應鏈、建立訓練數據集規范、使用公認可信的開源模型、代碼審計及安全測試、部署安全設備以及法律合規等多個方面入手，推出了完善的AI安全解決方案，可以有效地幫助用戶避免在使用AI大模型時面臨的諸多安全風險。

據了解，本屆論壇是由由國家互聯網應急中心（CNCERT/CC）和福州市人民政府主辦，匯聚了政府主管部門、科研院所、相關行業企業等國內網絡安全領域的“政、產、學、研、用”各界代表，共同探討網絡安全技術交流、威脅治理、應急響應、漏洞治理、移動互聯網安全治理等議題。本次論壇為國內網絡安全領域的協同治理和交流合作提供了重要的平臺，為推動我國網絡安全事業的發展發揮了積極作用。