2025年11月27日，由紫金山實驗室主辦，浙江大學(xué)區(qū)塊鏈與數(shù)據(jù)安全全國重點實驗室、南京信息工程大學(xué)計算機學(xué)院及網(wǎng)絡(luò)空間安全學(xué)院承辦的第五屆網(wǎng)絡(luò)空間內(nèi)生安全學(xué)術(shù)大會-人工智能安全論壇順利舉行。來自高校、科研機構(gòu)與產(chǎn)業(yè)界的專家學(xué)者齊聚一堂，圍繞人工智能安全的前沿挑戰(zhàn)與關(guān)鍵技術(shù)展開深入交流，旨在凝聚共識、推動合作，為人工智能技術(shù)的安全可信和可持續(xù)發(fā)展提供堅實支撐。

本次論壇邀請東南大學(xué)凌振教授、復(fù)旦大學(xué)陳智能教授、上海交通大學(xué)王爍教授、上海人工智能實驗室青年科學(xué)家陸超超研究員、浙江大學(xué)鄭天航研究員、安恒信息首席技術(shù)官劉博博士作主題報告，分享各自在人工智能安全領(lǐng)域的最新研究成果與實踐經(jīng)驗。論壇由浙江大學(xué)王志波教授和南京信息工程大學(xué)付章杰教授主持。

東南大學(xué)凌振教授以“大模型驅(qū)動的物聯(lián)網(wǎng)未知威脅識別”為題，指出隨著無云架構(gòu)物聯(lián)網(wǎng)設(shè)備廣泛部署，設(shè)備擺脫云服務(wù)直接暴露于互聯(lián)網(wǎng)所帶來的安全風(fēng)險日益突出。他介紹了團隊研發(fā)的TORCHLIGHT系統(tǒng)，基于大語言模型的思維鏈推理識別物聯(lián)網(wǎng)流量，并實現(xiàn)無云IoT設(shè)備的未知攻擊檢測，該系統(tǒng)在實際運行中展現(xiàn)出強大的漏洞發(fā)現(xiàn)能力。

復(fù)旦大學(xué)陳智能教授聚焦“高效場景文字識別技術(shù)及應(yīng)用”，系統(tǒng)梳理了當(dāng)前文字識別的主要技術(shù)路徑，并分享了其團隊在提升識別效率與精度方面的研究成果，展現(xiàn)了相關(guān)技術(shù)在互聯(lián)網(wǎng)內(nèi)容監(jiān)管和復(fù)雜文檔解析等高負載應(yīng)用場景中的落地價值。

上海交通大學(xué)王爍教授圍繞“解釋多維度的大模型安全評測”展開論述。他指出，傳統(tǒng)靜態(tài)、單維的安全評估方法已難以應(yīng)對大模型在開放環(huán)境中的復(fù)雜風(fēng)險。為此，其團隊構(gòu)建了一個覆蓋安全性、魯棒性、可信性與可解釋性的多維度評測體系，并融合自動化紅隊測試、多模型協(xié)同攻防、LLM-as-a-Judge機制等先進技術(shù)，打造可復(fù)現(xiàn)、可擴展的開放評測平臺，為模型提供閉環(huán)治理能力。

上海人工智能實驗室青年科學(xué)家陸超超在題為“邁向安全可信通用人工智能-挑戰(zhàn)、探索與未來”的報告中，系統(tǒng)剖析了當(dāng)前大模型在解釋性、涌現(xiàn)機理、幻覺生成、自我反思機制等方面存在的安全短板。他提出應(yīng)在“能力—安全”協(xié)同演進的框架下，推動人工智能實現(xiàn)可持續(xù)、可驗證、可依賴的安全發(fā)展，并對未來技術(shù)路徑進行了前瞻性展望。

浙江大學(xué)鄭天航研究員以“大模型黑盒越獄優(yōu)化”為題，表示當(dāng)前越獄攻擊呈現(xiàn)策略動態(tài)化、目標(biāo)多元化、效率極致化的新特征，他系統(tǒng)剖析了團隊在黑盒越獄優(yōu)化方向的最新進展，包括MAJIC高效黑盒越獄框架和DualBreach雙重越獄優(yōu)化方案，為深入理解大模型安全邊界、推動更可靠防護機制的構(gòu)建提供了重要技術(shù)參考。

安恒信息首席技術(shù)官劉博以“讓智能更安全：大模型安全的思考與實踐”為題，從產(chǎn)業(yè)視角出發(fā)，闡述了當(dāng)前大模型在數(shù)據(jù)、內(nèi)容、算法和運行層面面臨的安全挑戰(zhàn)。他介紹了安恒信息構(gòu)建的“內(nèi)容安全+運行安全+數(shù)據(jù)安全+算法安全”四位一體安全治理體系，為政企客戶構(gòu)建全場景安全防護，助力大模型在安全合規(guī)軌道上穩(wěn)健發(fā)展。

在論文交流環(huán)節(jié)，主辦方從前期征集的百余篇學(xué)生投稿中嚴(yán)格遴選9篇優(yōu)秀成果進行現(xiàn)場匯報。報告內(nèi)容涵蓋大模型安全、對抗攻擊、隱私保護、可信推理等多個前沿方向，與會師生積極提問、深入探討，展現(xiàn)了新生代科研力量的蓬勃活力與對關(guān)鍵安全問題的敏銳洞察。該環(huán)節(jié)由浙江大學(xué)倪王澤與鄭天航研究員共同主持。

本次論壇搭建了一個跨學(xué)科、跨行業(yè)的深度對話平臺，通過理論與實踐的交融、學(xué)術(shù)與產(chǎn)業(yè)的聯(lián)動，有力促進了人工智能安全理念的共識凝聚與技術(shù)生態(tài)的協(xié)同發(fā)展。