2025年11月8日，在世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)期間，三六零數(shù)字安全集團(tuán)（以下簡(jiǎn)稱“360”）正式發(fā)布《大模型安全白皮書》（以下簡(jiǎn)稱“白皮書”）。

該白皮書首次系統(tǒng)性闡釋大模型運(yùn)行時(shí)的五大關(guān)鍵風(fēng)險(xiǎn)，建設(shè)性地提出“外筑‘以模治模’動(dòng)態(tài)屏障，內(nèi)固‘平臺(tái)原生’安全底座”的核心理念，并源于實(shí)戰(zhàn)，提供了可落地的安全解決方案，為大模型應(yīng)用拉起了全鏈路安全防線，助力推動(dòng)人工智能行業(yè)向“安全、向善、可信、可控”方向穩(wěn)健發(fā)展。

該白皮書共計(jì)五章， 系統(tǒng)覆蓋了大模型安全邊界的演變、全景式威脅透視、源于實(shí)戰(zhàn)的防護(hù)新思路、360全鏈路安全解決方案以及生態(tài)共治倡議，全面呈現(xiàn)了360在面對(duì)大模型安全這一挑戰(zhàn)的技術(shù)縱深與治理前瞻性。

01 范式遷移：從網(wǎng)絡(luò)安全到大模型安全的時(shí)代挑戰(zhàn)

開篇介紹了隨著大模型驅(qū)動(dòng)百行千業(yè)智能化，傳統(tǒng)且清晰網(wǎng)絡(luò)安全邊界正在消融。白皮書指出，當(dāng)前大模型安全漏洞呈指數(shù)級(jí)增長，2025年國內(nèi)首次AI大模型實(shí)網(wǎng)眾測(cè)發(fā)現(xiàn)281個(gè)安全漏洞，其中大模型特有漏洞占比超60%。與此同時(shí)，攻擊者從"專業(yè)黑客"演變?yōu)?全民黑客"，通過自然語言即可發(fā)動(dòng)高威脅攻擊。

面對(duì)這一挑戰(zhàn)，中國開創(chuàng)了“發(fā)展與安全并重”的敏捷治理路徑，以《生成式人工智 能服務(wù)管理暫行辦法》為代表的“包容審慎、分類分級(jí)”原則，為技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控提供了 動(dòng)態(tài)平衡的框架。

02 大模型安全威脅全景透視

本章提到在大模型快速發(fā)展與廣泛應(yīng)用的背景下，大模型安全風(fēng)險(xiǎn)已形成多維度的復(fù)雜體系。除了傳統(tǒng)的網(wǎng)絡(luò)安全與數(shù)據(jù)安全解決方案能夠覆蓋的大模型應(yīng)用環(huán)境上的安全問題以外，大模型在運(yùn)行時(shí)的安全風(fēng)險(xiǎn)尤其具有其獨(dú)特性。

大模型運(yùn)行時(shí)安全風(fēng)險(xiǎn)主要涵蓋以下五個(gè)關(guān)鍵風(fēng)險(xiǎn)點(diǎn)：一是大模型基礎(chǔ)設(shè)施安全；二是大模型內(nèi)容安全；三是大模型數(shù)據(jù)與知識(shí)庫安全；四是智能體安全；五是用戶端安全，涵蓋大模型、知識(shí)庫、智能體的訪問控制，API監(jiān)控及惡意插件、隱私泄露等風(fēng)險(xiǎn)。這些維度共同構(gòu)成了AI安全治理需重點(diǎn)關(guān)注的全域圖景。對(duì)于上述風(fēng)險(xiǎn)，傳統(tǒng)的安全廠商尚未提供有效的解決方案。

03 源于實(shí)戰(zhàn)：大模型安全的應(yīng)對(duì)思路

在本章，基于對(duì)新型威脅的深度洞察，白皮書提出"外筑'以模治模'動(dòng)態(tài)屏障，內(nèi)固'平臺(tái)原生'安全底座"的防護(hù)理念，并通過四大原則落地實(shí)施：“安全”原則保障大模型運(yùn)行時(shí)的安全防護(hù)；“向善”原則引導(dǎo)大模型朝著積極有益的方向發(fā)展；“可信”原則致力于提升大模型生成內(nèi)容的可信度、完整性與準(zhǔn)確性；“可控”原則實(shí)現(xiàn)智能體有效管理。

此外，為了推動(dòng)人工智能行業(yè)向以上四大原則方向穩(wěn)健發(fā)展。白皮書基于實(shí)戰(zhàn)經(jīng)驗(yàn)，給出了“外掛式安全 + 平臺(tái)原生安全”雙軌治理策略 ——外掛式安全如同“建成后加裝的防盜系統(tǒng)”，平臺(tái)原生安全則如“建造時(shí)內(nèi)置的防火結(jié)構(gòu)”，二者協(xié)同，從外至內(nèi)構(gòu)筑大模型的安全防線。通過這一體系，360實(shí)現(xiàn)了主動(dòng)發(fā)現(xiàn)、動(dòng)態(tài)演進(jìn)的安全檢測(cè)能力，有效應(yīng)對(duì)復(fù)雜多變的大模型安全威脅。

04 360解決方案：可全鏈路的安全防護(hù)

本章中，360給出了全鏈路安全防護(hù)的解決方案。具體而言，“外掛式”安全能力不侵入大模型原生架構(gòu)，通過外部工具實(shí)現(xiàn)靈活、快速的動(dòng)態(tài)防護(hù)。

該體系下的四大產(chǎn)品——大模型衛(wèi)士算力主機(jī)安全系統(tǒng)、檢測(cè)系統(tǒng)、防護(hù)系統(tǒng)、幻覺檢測(cè)與緩解系統(tǒng)——共同構(gòu)建了外部屏障，重點(diǎn)應(yīng)對(duì)大模型基礎(chǔ)設(shè)施風(fēng)險(xiǎn)，如算力劫持、供應(yīng)鏈投毒，以及大模型內(nèi)容風(fēng)險(xiǎn)，如提示詞注入、模型幻覺與違規(guī)內(nèi)容，實(shí)現(xiàn)了從算力層到內(nèi)容層的實(shí)時(shí)監(jiān)測(cè)與主動(dòng)防御。

同時(shí)，“平臺(tái)原生安全” 則為大模型應(yīng)用注入了“安全基因”，將防護(hù)能力深度內(nèi)嵌于其核心組件之中。這一理念具體體現(xiàn)在三大平臺(tái)產(chǎn)品上：企業(yè)級(jí)知識(shí)庫從根本上守護(hù)數(shù)據(jù)與知識(shí)安全；智能體構(gòu)建和運(yùn)營平臺(tái)確保智能體行為全程可控；智能體客戶端則筑牢用戶端入口的安全防線。三者協(xié)同，從底層架構(gòu)解決了數(shù)據(jù)泄露、智能體行為失控及終端濫用等內(nèi)生性安全挑戰(zhàn)，為AI應(yīng)用的穩(wěn)定可靠運(yùn)行奠定了內(nèi)生性基礎(chǔ)。

05 生態(tài)共治：構(gòu)建可信AI生態(tài)

最后章節(jié)中，白皮書強(qiáng)調(diào)，大模型安全需通過生態(tài)共治實(shí)現(xiàn)可持續(xù)治理。360深度參與《GB/T 45654-2025 網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》等國家標(biāo)準(zhǔn)制定，與北京大學(xué)聯(lián)合研發(fā)的TinyR1-32B模型在安全能力上超越多個(gè)主流模型。

通過發(fā)起大模型安全聯(lián)盟，360攜手產(chǎn)學(xué)研各方共建安全生態(tài)，在工信部人工智能大模型公共服務(wù)平臺(tái)上，已為100余家企業(yè)提供模型安全測(cè)試服務(wù)。

《大模型安全白皮書》的發(fā)布，標(biāo)志著大模型安全治理進(jìn)入體系化建設(shè)新階段。360提出的全鏈路防護(hù)體系，為正處于規(guī)?；瘧?yīng)用初期的各行各業(yè)提供了從理論到實(shí)踐的完整解決方案。

未來，360將繼續(xù)發(fā)揮"AI+安全"雙重基因優(yōu)勢(shì)，與產(chǎn)業(yè)各方攜手共建"安全、向善、可信、可控"的大模型生態(tài)，為人工智能時(shí)代高質(zhì)量發(fā)展保駕護(hù)航。