AI+安全
數(shù)據(jù)安全
數(shù)據(jù)基礎(chǔ)設(shè)施
態(tài)勢感知
云安全
基礎(chǔ)安全
終端安全
商用密碼
軟件供應(yīng)鏈安全
網(wǎng)絡(luò)空間靶場
工業(yè)互聯(lián)網(wǎng)安全
物聯(lián)網(wǎng)安全
安全托管服務(wù)
運營管理服務(wù)
首家！安恒信息通過中國信通院面向大模型的可信執(zhí)行環(huán)境產(chǎn)品專項測試
2024年5月23日，在中國信息通信研究院（以下簡稱“中國信通院”）組織的首批“面向大模型的增強型可信執(zhí)行環(huán)境基礎(chǔ)能力專項測試”中，安恒信息順利完成全部測試內(nèi)容，成為首家完成此項測試的企業(yè)。
標準及測試介紹
《面向大模型訓(xùn)練與推理數(shù)據(jù)保護的可信執(zhí)行環(huán)境技術(shù)要求》是中國信通院云計算與大數(shù)據(jù)研究所依托中國通信標準化協(xié)會大數(shù)據(jù)技術(shù)標準推進委員會（CCSA TC601），聯(lián)合30余家企業(yè)的專家共同編制，旨在為可信執(zhí)行環(huán)境產(chǎn)品/集群在面向大模型場景時的研發(fā)、測試、評估和驗收提供參考和指引。
據(jù)此標準形成的測試方法考慮可信執(zhí)行環(huán)境、模型類別和訓(xùn)練推理數(shù)據(jù)的特點，覆蓋數(shù)據(jù)工程、模型訓(xùn)練支持、模型推理支持、硬件加速、安全要求五大能力域，包含數(shù)據(jù)增強、模型管理、環(huán)境安全和數(shù)據(jù)安全等16個子能力域，共計57個測試項。
安恒AiLand安全島隱私計算平臺介紹
AiLand安全島隱私計算平臺專注于保障數(shù)據(jù)安全流通，致力于解決數(shù)據(jù)流通過程中的信任和隱私保護問題。平臺綜合應(yīng)用可信執(zhí)行環(huán)境，安全多方計算，聯(lián)邦學(xué)習(xí)，區(qū)塊鏈等技術(shù)，結(jié)合環(huán)境隔離、關(guān)鍵行為數(shù)字驗簽、全流程審計等，實現(xiàn)共享數(shù)據(jù)的所有權(quán)和使用權(quán)分離，確保數(shù)據(jù) “可用不可見”，保障數(shù)據(jù)共享交換過程的數(shù)據(jù)可控和流程可溯。
AiLand安全島隱私計算平臺架構(gòu)
安恒AiLand安全島隱私計算平臺在機密計算方面具有業(yè)界領(lǐng)先的產(chǎn)品積累。近兩年在國內(nèi)各大賽事中屢獲優(yōu)異成績，獲得2023年度信通院星河杯TEE賽道全國一等獎，2022年度鯤鵬應(yīng)用創(chuàng)新大賽全國總決賽數(shù)字政府賽道金獎等榮譽。
01
平臺優(yōu)勢及主要能力
在面向大模型訓(xùn)練與推理場景，安恒AiLand安全島隱私計算平臺設(shè)計技術(shù)與產(chǎn)品的安全結(jié)合架構(gòu)，支持融合多方數(shù)據(jù)集建設(shè)精調(diào)數(shù)據(jù)集，持續(xù)進行訓(xùn)練和推理。
1. 安全防護
為增強模型提供方、數(shù)據(jù)提供方與平臺信任，平臺使用機密計算技術(shù)提供硬件級的安全保護，通過算法一致性核驗，交互數(shù)據(jù)安全保護機制，環(huán)境隔離機制等實現(xiàn)模型和數(shù)據(jù)全流程的機密性、完整性保護，滿足大模型在高安全要求的業(yè)務(wù)場景需求。
在身份權(quán)限、計算任務(wù)、訓(xùn)練數(shù)據(jù)、精調(diào)模型等內(nèi)容與機密計算技術(shù)深度融合，由硬件為上述內(nèi)容提供了安全保護與隔離，即使是系統(tǒng)管理員也無法窺探到執(zhí)行中的數(shù)據(jù)。
2. 安全評估
平臺依托安恒信息在大模型內(nèi)容安全上多年的積累，支持了模型安全檢測能力。通過幾千個測試用例，可以檢測出包括提示詞注入、不安全的內(nèi)容輸出、模型濫用風(fēng)險、模型過度依賴、道德倫理風(fēng)險、違規(guī)內(nèi)容風(fēng)險和數(shù)據(jù)泄露風(fēng)險等七個方向的風(fēng)險。
AiLand安全島隱私計算平臺安全評估示例
3. 模型開發(fā)
模型方面，平臺支持ChatGLM3、Llama3、Baichuan2 、千問2、gemma-1.1等相關(guān)和其他模型運行。訓(xùn)練數(shù)據(jù)方面，支持大規(guī)模數(shù)據(jù)輸入，支持數(shù)據(jù)處理和多源數(shù)據(jù)安全融合。
4. 低成本遷移
平臺提供與傳統(tǒng)大模型訓(xùn)練推理環(huán)境類似的界面環(huán)境，用戶可以在非安全環(huán)境的模型輕松地遷移到隱私計算平臺內(nèi)。
AiLand安全島隱私計算平臺推理環(huán)境示例
5. 加速設(shè)備支持
目前已商用的產(chǎn)品中，支持可滿足安全要求的異構(gòu)加速設(shè)備，如Intel AMX、海光和NVIDIA等。例如Intel AMX是一種用于加速深度學(xué)習(xí)和矩陣計算的處理器擴展，可以為ChatGLM、Llama及QWen等系列模型的推理和訓(xùn)練提供加速能力，2粒第四代志強處理器環(huán)境下，模型的推理速度有近400%的提升，訓(xùn)練速度有近50%的提升。
這些硬件在提供強大計算能力的同時，還具備出色的安全性能，能夠有效保護大模型相關(guān)數(shù)據(jù)的安全性和隱私性。AiLand安全島隱私計算平臺充分利用這些硬件優(yōu)勢，支持在算力基礎(chǔ)設(shè)施上構(gòu)建平臺，確保在提供計算性能優(yōu)化的同時，滿足嚴格的數(shù)據(jù)安全和隱私保護要求。
02
主要應(yīng)用
1. 模型精調(diào)
在行業(yè)或領(lǐng)域大模型訓(xùn)練等場景而言，企業(yè)通常會選擇合適的大模型作為基礎(chǔ)模型，使用本方數(shù)據(jù)或融合多方數(shù)據(jù)對模型進行精調(diào)。在這一過程中，需要保證模型提供方提供的基礎(chǔ)模型的安全和各方用于精調(diào)訓(xùn)練的數(shù)據(jù)安全，防止模型和數(shù)據(jù)被未經(jīng)授權(quán)的訪問。
安恒AiLand安全島隱私計算平臺通過環(huán)境隔離、數(shù)據(jù)完整性和機密性保護、全流程監(jiān)控審計等機制保護平臺內(nèi)數(shù)據(jù)安全，并提供模型倉庫、模型導(dǎo)出、優(yōu)化工具等功能，保證精調(diào)階段的功能和性能可用。
2. 安全推理
在推理場景中需要考慮模型、數(shù)據(jù)和算力等條件，一是提供大模型推理服務(wù)的模型均為企業(yè)花費資金和時間訓(xùn)練得到的，是模型提供方的核心資產(chǎn)；二是，用戶的輸入數(shù)據(jù)和推理結(jié)果是用戶希望被保護的數(shù)據(jù)；三是提供基于大模型的推理服務(wù)需要一定規(guī)模算力，但并非每家企業(yè)都具備獨立搭建算力平臺的能力。
因此，基于公有算力的大模型推理服務(wù)是較為常見的模式。安恒AiLand安全島隱私計算平臺，通過一致性檢驗、交互加密等方式對推理服務(wù)時模型和數(shù)據(jù)進行保護。
