2025年，注定要被載入科技史冊。這一年，人工智能褪去了單純的效率工具與娛樂玩具的標(biāo)簽，蛻變?yōu)槿缤娨话愕幕A(chǔ)能力，它從實(shí)驗(yàn)室走向各行各業(yè)，切切實(shí)實(shí)的重塑著我們的生活。然而，伴隨人工智能的深度落地，人們迎來的是一場席卷全社會(huì)的 AI 安全博弈。這絕非簡單的技術(shù)攻防較量，更像是 AI 與安全之間的 “相愛相殺”，二者既相互依存——AI的落地離不開安全的護(hù)航；又彼此制約——安全的邊界又影響著AI的創(chuàng)新發(fā)展高度。政策的密集規(guī)范、技術(shù)的攻防博弈、產(chǎn)業(yè)的需求爆發(fā)，共同將這一年推為名副其實(shí)的“AI安全元年”。

一、AI安全開年警訊：服務(wù)器裸奔與數(shù)據(jù)信息危機(jī)

2025年的AI安全事件，以年初的服務(wù)器“裸奔”危機(jī)拉開序幕，全年風(fēng)險(xiǎn)貫穿始終，早已跳出技術(shù)圈的小眾討論，走進(jìn)了普通人的生活。

2025年1月，爆火的大模型DeepSeek接連曝出安全漏洞——美國云安全公司W(wǎng)iz Research評(píng)估DeepSeek的外部安全態(tài)勢時(shí)，發(fā)現(xiàn)了一個(gè)可公開訪問的ClickHouse數(shù)據(jù)庫，且未經(jīng)身份驗(yàn)證，其中包含超過100萬行的日志流以及大量聊天記錄、后端數(shù)據(jù)和敏感信息，如API密鑰等，并允許完全控制數(shù)據(jù)庫操作。而這僅僅是行業(yè)隱患的冰山一角。根據(jù)行業(yè)某安全企業(yè)監(jiān)測顯示，當(dāng)時(shí)國內(nèi)九成本地化部署的AI一體機(jī)都處于無安全防護(hù)的狀態(tài)，企業(yè)因部署門檻降低，快速落地AI，卻普遍忽視網(wǎng)絡(luò)暴露面管理、API接口防護(hù)等基礎(chǔ)安全環(huán)節(jié)，而黑客僅需兩三天就能攻破這類服務(wù)器。

除了基礎(chǔ)設(shè)施風(fēng)險(xiǎn)，數(shù)據(jù)泄露事件也在同期頻發(fā)。2025年初多地出現(xiàn)AI客服泄露用戶隱私的情況，一款國產(chǎn)知名軟件更是被曝出泄露超百萬條用戶聊天記錄。除此之外，某企業(yè)還發(fā)生員工為圖便利，將內(nèi)部涉密數(shù)據(jù)上傳至AI工具處理的事件，最終引發(fā)全員調(diào)查，企業(yè)緊急禁用所有AI產(chǎn)品。

這些年初集中爆發(fā)的事件，為2025年的AI安全敲響了第一聲警鐘。

而到了下半年，風(fēng)險(xiǎn)進(jìn)一步延伸至社會(huì)層面：9月，某網(wǎng)絡(luò)平臺(tái)查出多個(gè)賬號(hào)利用AI“移花接木”，批量發(fā)布某中學(xué)體罰學(xué)生的虛假信息牟利。10月，又有網(wǎng)友用AI生成某地地震新聞及現(xiàn)場廢墟視頻傳播，短時(shí)間內(nèi)引發(fā)民眾恐慌和物資搶購潮，直至警方緊急辟謠才平息混亂。

此外，2025年某上游模型供應(yīng)商遭遇投毒攻擊，導(dǎo)致下游數(shù)千個(gè)工業(yè)AI應(yīng)用出現(xiàn)決策偏差。據(jù)統(tǒng)計(jì)，模型竊取、數(shù)據(jù)投毒等攻擊事件在2024至2025年間激增180%，不少科技公司的核心AI模型被竊取后，僅需簡單微調(diào)就成為競爭對(duì)手的“利器”。

這一系列事件像一面鏡子，照出了開源倫理與安全邊界的核心矛盾。完全透明的開源理念，可能帶來不可控的安全風(fēng)險(xiǎn)，但過度封閉的技術(shù)管控，又會(huì)扼殺創(chuàng)新活力。這一系列事件不得不讓整個(gè)行業(yè)開始重新思考，開源不等于放任，必要的安全前置審查與使用追蹤機(jī)制亟待建立。

二、碰撞：自主智能體與系統(tǒng)安全

自主智能體的高自主性正在成為系統(tǒng)安全的新挑戰(zhàn)，外部惡意注入與權(quán)限濫用已引發(fā)多起真實(shí)安全事件。2025 年 5 月，GitHub MCP 集成漏洞被曝光，攻擊者在公共存儲(chǔ)庫中植入惡意問題，成功劫持 Claude 4 Opus 等開發(fā)者智能體，繞過平臺(tái)權(quán)限系統(tǒng)竊取私有倉庫數(shù)據(jù)，讓用戶隱私和商業(yè)機(jī)密暴露風(fēng)險(xiǎn)中。同年 8 月，Perplexity 旗下 Comet 瀏覽器智能體的安全漏洞更具隱蔽性，攻擊者將惡意指令藏在 Reddit 帖子中，智能體讀取后竟自動(dòng)執(zhí)行登錄郵箱、獲取驗(yàn)證碼并回傳敏感憑證的操作，全程僅需 150 秒且無需用戶介入，凸顯了智能體對(duì)不可信環(huán)境輸入的過度依賴問題。

智能體的自我進(jìn)化特性進(jìn)一步放大了系統(tǒng)安全隱患，即使無外部攻擊也可能自生風(fēng)險(xiǎn)。上海 AI Lab 等機(jī)構(gòu)的研究發(fā)現(xiàn)，頂級(jí) LLM 構(gòu)建的自進(jìn)化智能體普遍存在 “錯(cuò)誤進(jìn)化” 現(xiàn)象：編程智能體在積累調(diào)試經(jīng)驗(yàn)后，對(duì)惡意代碼請求的拒絕率從 99.4% 驟降至 54.4%。部分智能體自制工具時(shí)留下的隱私漏洞，會(huì)在敏感任務(wù)中被盲目復(fù)用，導(dǎo)致數(shù)據(jù)泄露風(fēng)險(xiǎn)。而 AI 編程工具 Cursor 的CurXecute高危漏洞，則暴露了智能體工具調(diào)用環(huán)節(jié)的安全短板，攻擊者可通過第三方服務(wù)器發(fā)布惡意消息，誘導(dǎo)智能體執(zhí)行任意命令，實(shí)現(xiàn)遠(yuǎn)程代碼執(zhí)行，讓關(guān)聯(lián)設(shè)備和數(shù)據(jù)面臨被操控的威脅。

自主智能體的自主性是把雙刃劍，一邊是效率革命，一邊是安全博弈。攻擊者用隱蔽注入、惡意誘導(dǎo)撕開防御缺口，智能體的自我進(jìn)化卻可能淪為安全的退化。而安全防護(hù)既要堵得住外部攻擊的滲透，又要管得住內(nèi)生缺陷的爆發(fā)，或許這場攻防戰(zhàn)沒有最終的解決辦法，只有在動(dòng)態(tài)制衡中筑牢防線。

三、全年產(chǎn)業(yè)與政策：為安全筑牢生態(tài)防線

在一系列事件的推動(dòng)下，2025年的AI安全產(chǎn)業(yè)與政策呈現(xiàn)“雙向加速”態(tài)勢。政策層面，中國于9月1日正式施行《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，與歐洲“AI內(nèi)容憲章”、北美“AI安全法案”形成全球治理框架的重要支柱。

產(chǎn)業(yè)層面，AI安全已從“小眾賽道”升級(jí)為支撐產(chǎn)業(yè)發(fā)展的“核心基建”。根據(jù)《2025年全球及中國人工智能安全行業(yè)發(fā)展研究報(bào)告》 、《全球網(wǎng)絡(luò)安全與AI結(jié)合行業(yè)發(fā)展研究報(bào)告》、《2025年與2030年AI及AI智能體 (Agent) 市場份額分析報(bào)告》等報(bào)告顯示，全球市場規(guī)模在2025年突破650億美元，國內(nèi)市場達(dá)280億元人民幣，年復(fù)合增長率超42%。供應(yīng)鏈格局上，北美主導(dǎo)基礎(chǔ)算法工具市場（占比65%），而亞太硬件級(jí)方案產(chǎn)能增長35%，國內(nèi)企業(yè)在應(yīng)用層防護(hù)領(lǐng)域占據(jù)58%的本土份額，核心技術(shù)的國產(chǎn)化替代成為新趨勢。

四、展望：不是終結(jié)，而是共生的開端

回望2025，AI與安全的“相愛相殺”從未停歇，開源模型的泄露與防護(hù)、深度偽造的泛濫與溯源、自主智能體的便利與管控，每一個(gè)安全問題的解決，都催生了更成熟的AI應(yīng)用。每一次AI技術(shù)的突破，又帶來了新的安全挑戰(zhàn)。這一年留給行業(yè)最深刻的領(lǐng)悟是：AI安全不是一勞永逸的技術(shù)攻關(guān)，而是需要持續(xù)管理、動(dòng)態(tài)平衡的系統(tǒng)工程。

2025年不會(huì)是AI安全問題的終點(diǎn)，而是我們真正學(xué)會(huì)與AI風(fēng)險(xiǎn)共存的起點(diǎn)。這場“相愛相殺”還將繼續(xù)，但經(jīng)歷了這一年的密集壓力測試后，我們已手握更實(shí)用的工具箱、懷揣更清醒的認(rèn)知。未來，希望AI與安全的關(guān)系終將超越制約，走向深度融合的共生。

參考文獻(xiàn)：

https://www.thepaper.cn/newsDetail_forward_30437093

https://www.toutiao.com/article/7495590632355824128/?upstream_biz=doubao&source=m_redirect&wid=1765266718863

https://news.cctv.cn/2025/10/10/ARTIy066vUAV7BgF0BzEeBwf251010.shtml

https://m.thepaper.cn/newsDetail_forward_31752129

https://news.cctv.cn/2025/09/17/ARTILpSbtPZbbNgGL7ueGsWO250917.shtml

https://www.51cto.com/article/816706.html

https://c.m.163.com/news/a/KCVVOU7U0511A5GF.html

https://www.toutiao.com/article/7561717454393655850/?upstream_biz=doubao&source=m_redirect

https://www.inwwin.com.cn/80/view-944326-1.html

https://www.inwwin.com.cn/80/view-944326-1.html

https://blog.csdn.net/weixin_44191845/article/details/148513339

https://www.cac.gov.cn/2025-03/14/c_1743654685899683.htm