近日，中國信息通信研究院（信通院）主導(dǎo)的2024年Q2大模型安全基準(zhǔn)測試結(jié)果發(fā)布。此次測試由信通院聯(lián)合30余家單位共同發(fā)起，以大模型的安全性能為核心評估目標(biāo)。三六零（601360.SH，簡稱“360”）集團(tuán)旗下的大模型產(chǎn)品“360智腦”再次蟬聯(lián)綜合排名第一。

在本次測試中，評估涵蓋了底線紅線、信息泄露和社會倫理等三個主要測試維度，并結(jié)合16種攻擊方法，總計80余種攻擊模板進(jìn)行了全面的對抗性測試。參與測試的模型包括360智腦、智譜AI-GLM4、騰訊音樂、商湯、聯(lián)通、電信、VIVO、GPT-4等10個商用模型。最終，360智腦在綜合能力上脫穎而出，排名第一。尤其是在應(yīng)對惡意攻擊時，360智腦的攻擊成功率（ASR）僅為1.84%，遠(yuǎn)低于其他開源和閉源大模型，展現(xiàn)了卓越的安全性能。這充分證明了360智腦在安全意識和風(fēng)險應(yīng)對能力方面的領(lǐng)先地位。

360智腦的優(yōu)異表現(xiàn)主要得益于其在內(nèi)容安全方面的技術(shù)優(yōu)勢。360通過將大模型技術(shù)應(yīng)用于內(nèi)容安全檢測，打造了場景化的風(fēng)險內(nèi)容檢測模型，能夠有效識別大模型輸入和輸出中的風(fēng)險內(nèi)容，覆蓋超過100種風(fēng)險類型，識別準(zhǔn)確率超過99%。此外，360智腦的安全性還得益于原生的安全加固方案，包括安全微調(diào)（SFT）、強(qiáng)化學(xué)習(xí)（RLHF）、安全知識庫（Safety-RAG）等技術(shù)手段，這些措施進(jìn)一步增強(qiáng)了大模型的內(nèi)生安全性。

360 AI安全實(shí)驗室基于“安全、向善、可信、可控”的四大原則，秉持“以模制模”的理念，構(gòu)建了包括安全回復(fù)大模型、風(fēng)險檢測大模型、攻擊大模型、安全評測大模型在內(nèi)的“1+3”專家模型體系，致力于構(gòu)建內(nèi)容安全的大模型生態(tài)體系，為大模型的安全可靠應(yīng)用保駕護(hù)航。

作為中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）安全治理委員會的副組長單位以及大模型安全風(fēng)險防范能力系列評估規(guī)范的核心參編單位，360積極參與大模型語料庫和安全評測的制定工作，并推動大模型國家標(biāo)準(zhǔn)體系的建設(shè)。同時，作為中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會的首批成員單位，360持續(xù)推動大模型安全技術(shù)的應(yīng)用和標(biāo)準(zhǔn)化建設(shè)。