AI 浪潮正席卷軟件行業(yè)，程序員們?cè)?FOMO 情緒和效率訴求的雙重驅(qū)動(dòng)下，越來(lái)越多地把 AI 編程工具融入日常工作，“Vibe Coding”逐漸成為一種新的開(kāi)發(fā)常態(tài)。

然而，近期 Replit AI 編程平臺(tái)發(fā)生誤刪生產(chǎn)數(shù)據(jù)庫(kù)的事件，為熱烈的 AI Coding 氛圍蒙上陰影。事件一出，迅速引發(fā)業(yè)內(nèi)關(guān)于 AI 編程安全性的廣泛討論：AI 生成的代碼究竟有多安全？在享受效率紅利的同時(shí)，如何真正保障 AI Coding 的安全性？

01

真實(shí)開(kāi)發(fā)場(chǎng)景下，AI生成代碼的安全性研究

為此，我們邀請(qǐng)國(guó)內(nèi)領(lǐng)先的AI安全企業(yè)----安恒信息做了一次雙層次實(shí)驗(yàn)，并且搭建了一套完整的“多智能體（MCPs）協(xié)同驅(qū)動(dòng)的自動(dòng)化安全審計(jì)體系”，系統(tǒng)性評(píng)估AI代碼生成工具在不同條件下的安全表現(xiàn)。

實(shí)驗(yàn)框架圖 (點(diǎn)擊放大)

實(shí)驗(yàn)?zāi)繕?biāo)主要聚焦兩個(gè)方向：評(píng)估AI生成代碼的基礎(chǔ)安全性、探索安全設(shè)計(jì)對(duì)代碼安全的影響機(jī)制。

實(shí)驗(yàn)選取國(guó)內(nèi)外主流的10款 AI 代碼生成工具，設(shè)計(jì)涵蓋代碼片段任務(wù)與完整項(xiàng)目的提示詞集合，生成真實(shí)的代碼樣本。隨后，依托數(shù)字員工平臺(tái)，構(gòu)建“多引擎審計(jì) → AI 研判降噪 → AI 深度審計(jì) → AI 修復(fù)建議 → 報(bào)告生成”的全自動(dòng)化流程，實(shí)現(xiàn)對(duì)AI生成代碼的系統(tǒng)化漏洞評(píng)估。

02

你的代碼正在“裸奔”：AI默認(rèn)生成的

代碼是不安全的

測(cè)評(píng)結(jié)果顯示，AI在默認(rèn)狀態(tài)下生成的代碼存在嚴(yán)重的安全隱患。如果不加任何限制，代碼上線幾乎等同于“裸奔”。因此，至少要引入安全提示詞和靜態(tài)安全測(cè)試作為最低安全門檻。

1、AI默認(rèn)生成代碼=裸奔！AI寫的Bug比你想象的多

在無(wú)安全設(shè)計(jì)的情況下，AI生成代碼的平均缺陷密度約為 11.28 個(gè)/千行代碼，部分模型甚至超過(guò) 20 個(gè)/千行。高頻出現(xiàn)的問(wèn)題包括：SQL注入、路徑遍歷、弱加密、硬編碼密鑰等等。

不同AI編程模型生成代碼的漏洞數(shù)量（每千行代碼） (點(diǎn)擊放大)

AI生成代碼的漏洞類型分布 (點(diǎn)擊放大)

更令人擔(dān)憂的是，高危漏洞比例占比驚人，這意味著一旦投入生產(chǎn)環(huán)境，后果可能極其嚴(yán)重。

AI生成代碼的漏洞風(fēng)險(xiǎn)等級(jí)分布(點(diǎn)擊放大)

2、增加安全提示詞后，缺陷密度下降一半

通過(guò)引入安全提示詞，缺陷密度從11.28 個(gè)/千行降至約 7.41，再進(jìn)一步使用增強(qiáng)型提示詞，降至5.67 個(gè)/千行。換句話說(shuō)，安全提示詞能讓缺陷數(shù)量幾乎減半，效果非常顯著。

加入安全提示后各模型生成代碼的漏洞數(shù)量變化（每千行代碼）(點(diǎn)擊放大)

平均缺陷密度變化（每千行代碼）(點(diǎn)擊放大)

3、真刀真槍測(cè)評(píng)：10大AI編程工具安全性

先看合規(guī)性：漏洞榜單對(duì)照

CWE Top 25 和 OWASP Top 10 是國(guó)際公認(rèn)的核心 Web 應(yīng)用安全風(fēng)險(xiǎn)清單。我們將 AI 生成代碼中的漏洞類型與這兩大基準(zhǔn)對(duì)照，如果觸發(fā)了對(duì)應(yīng)弱點(diǎn)，就視為“不合規(guī)”；反之，則合規(guī)度越高。

通過(guò)統(tǒng)計(jì)命中率并轉(zhuǎn)換為排名，可以直觀量化不同模型在規(guī)避行業(yè)標(biāo)準(zhǔn)漏洞方面的表現(xiàn)。表 1、表 2 展示了不同提示詞條件下的 CWE / OWASP 合規(guī)排名。

表1-不同提示詞加入后各模型的CWE合規(guī)排名

表2-不同提示詞加入后各模型的OWASP合規(guī)排名

再看綜合評(píng)分：誰(shuí)更穩(wěn)健

綜合評(píng)分按“安全30% + 合規(guī)20% + 代碼質(zhì)量15% + 安全成熟度15% + OWASP10% + CWE10%”計(jì)算。

表3-不同提示詞加入后各模型的綜合排名

結(jié)果很有意思：在 無(wú)提示詞 或僅用 全局提示詞 時(shí)，各模型差異不大，幾乎都踩了不少坑，導(dǎo)致排名大量并列。

但一旦加入 增強(qiáng)提示詞，分化就出現(xiàn)了——并列情況明顯減少，有的模型安全性迅速拉開(kāi)差距。

換句話說(shuō)：安全提示詞，確實(shí)能讓模型“收斂亂跑”，規(guī)避更多風(fēng)險(xiǎn)。從源頭降低了高危缺陷發(fā)生的概率。

結(jié)論

總的來(lái)說(shuō)，在無(wú)安全提示詞的情況下，各模型的表現(xiàn)差異并不大，都存在較多不合規(guī)項(xiàng)；加入全局安全提示詞后，達(dá)到合規(guī)基線的模型占比明顯提升且方差收斂。

AI 寫代碼默認(rèn)不安全，必須疊加外部安全體系加固，才有可能達(dá)到上線標(biāo)準(zhǔn)。

03

AI Coding時(shí)代，如何做安全審計(jì)？

如何應(yīng)對(duì)以上問(wèn)題，安恒提出了一套自己的實(shí)踐思路，經(jīng)過(guò)充分研究以及在多家公司成功實(shí)踐的基礎(chǔ)上，依托數(shù)字員工平臺(tái)，提出“多智能體（MCPs）驅(qū)動(dòng)的自動(dòng)化安全審計(jì)體系”。覆蓋了從威脅建模、代碼生成、審計(jì)研判的全流程。由多個(gè)MCP協(xié)同完成，從設(shè)計(jì)到報(bào)告輸出形成閉環(huán)，框架包括六個(gè)部分：

1）AI威脅建模MCP。根據(jù)需求自動(dòng)生成安全約束，確保后續(xù)開(kāi)發(fā)帶有安全上下文。該智能體能夠自動(dòng)推演攻擊路徑與威脅場(chǎng)景，如：支付繞過(guò)、越權(quán)訪問(wèn)、敏感數(shù)據(jù)泄露等，并且生成與業(yè)務(wù)風(fēng)險(xiǎn)高度耦合的安全控制建議。

2）多引擎融合審計(jì)MCP。融合多種源代碼審計(jì)引擎，實(shí)現(xiàn)引擎間優(yōu)勢(shì)互補(bǔ)，消除檢測(cè)盲區(qū)，同時(shí)支持靈活擴(kuò)展，輸出更全面的審計(jì)結(jié)果。

3）開(kāi)源組件風(fēng)險(xiǎn)分析MCP。通過(guò)漏洞可達(dá)性分析、代碼指紋比對(duì)、深度遞歸依賴解析等技術(shù)，精準(zhǔn)判定組件風(fēng)險(xiǎn)，全面覆蓋直接與傳遞依賴，分鐘級(jí)采集并驗(yàn)證全球開(kāi)源情報(bào)，輸出完整的成分風(fēng)險(xiǎn)清單。

4）AI智能研判MCP。依托實(shí)戰(zhàn)沉淀的高危漏洞規(guī)則，結(jié)合上下文語(yǔ)義分析，對(duì)多引擎掃描結(jié)果進(jìn)行精準(zhǔn)研判，覆蓋 SQL 注入、反序列化、路徑遍歷、弱加密等關(guān)鍵風(fēng)險(xiǎn)，輸出高可信度的漏洞判定。

5）AI代碼深度審計(jì)MCP。定向聚焦安全敏感區(qū)，過(guò)濾無(wú)價(jià)值代碼噪聲，基于 Java 高危函數(shù)清單與內(nèi)部安全規(guī)范構(gòu)建規(guī)則矩陣，覆蓋配置漏洞、高危缺陷及中間件風(fēng)險(xiǎn)，彌補(bǔ)傳統(tǒng)審計(jì)在規(guī)則盲區(qū)與上下文分析的不足，輸出高精度的漏洞檢測(cè)結(jié)果。

6）AI自動(dòng)修復(fù)與綜合報(bào)告MCP。依托上下文感知與規(guī)范驅(qū)動(dòng)，綜合技能一至四的分析與審計(jì)結(jié)果，實(shí)現(xiàn)高效可信的漏洞整改，輸出一鍵可落地的修復(fù)方案及完整綜合報(bào)告。

該框架已在實(shí)驗(yàn)中驗(yàn)證，能同時(shí)提升審計(jì)效率與覆蓋率，支持與企業(yè)DevSecOps流程深度融合。是AI Coding安全“左移”的最佳實(shí)踐。

更重要的是，安恒信息還將這一框架集成到統(tǒng)一的交付形態(tài)中，打造出了“安全開(kāi)發(fā)一體機(jī)”。

可以把它理解為：多智能體框架是底層“發(fā)動(dòng)機(jī)”，而安全開(kāi)發(fā)一體機(jī)則是把發(fā)動(dòng)機(jī)、底盤和駕駛艙都裝配齊全的“整車”，企業(yè)只需開(kāi)箱即可使用。

“安全開(kāi)發(fā)一體機(jī)”將國(guó)產(chǎn)代碼倉(cāng)庫(kù)、威脅建模、SAST、SCA、CI/CD、制品庫(kù)等核心安全模塊形成“一機(jī)打包”的完整安全開(kāi)發(fā)基礎(chǔ)設(shè)施。它既繼承了多智能體框架的智能化優(yōu)勢(shì)，又通過(guò)產(chǎn)品化集成降低了落地門檻，使企業(yè)能夠快速實(shí)現(xiàn)從研發(fā)到上線的全流程安全閉環(huán)。在版本設(shè)計(jì)上，提供基礎(chǔ)版與旗艦版兩個(gè)形態(tài)：

基礎(chǔ)版：集成國(guó)產(chǎn)代碼倉(cāng)庫(kù)、SAST、SCA、CI/CD等核心能力，幫助用戶快速落地DevSecOps，實(shí)現(xiàn)安全檢測(cè)與流程管理的一體化。

旗艦版（AI）：在基礎(chǔ)能力之上，進(jìn)一步疊加AI威脅建模、AI漏洞研判、AI源代碼審計(jì)、AI修復(fù)建議與智能報(bào)告生成等模塊，利用大模型驅(qū)動(dòng)的自動(dòng)化能力，實(shí)現(xiàn)“生成即安全”的目標(biāo)，大幅提升漏洞識(shí)別精度、修復(fù)效率和整體安全成熟度。

通過(guò)這種分層架構(gòu)，用戶既可以根據(jù)自身安全建設(shè)階段靈活選擇合適版本，又能在未來(lái)平滑升級(jí)到旗艦版，實(shí)現(xiàn)安全能力的可持續(xù)演進(jìn)。

04

企業(yè)級(jí)代碼“生成即安全”的可行路徑

AI Coding的安全問(wèn)題并不是一個(gè)簡(jiǎn)單的技術(shù)問(wèn)題，它需要模型廠商、安全團(tuán)隊(duì)以及開(kāi)發(fā)者的持續(xù)協(xié)同。多智能體審計(jì)框架為我們指出了一條切實(shí)可行的實(shí)踐路徑，企業(yè)級(jí)代碼的“生成即安全”將在越來(lái)越多的場(chǎng)景進(jìn)行落地。

AI編程只有真正成為可靠的生產(chǎn)力，而非極客工具箱里的玩具，才能夠給企業(yè)帶來(lái)生產(chǎn)效率的提升、價(jià)值的增量。這場(chǎng)變革才剛剛開(kāi)始，但每一步探索，都在為更安全的AI Coding未來(lái)鋪路。

05

AI驅(qū)動(dòng)安全防御范式全面升級(jí)

除 AI 編程外，其他網(wǎng)絡(luò)安全領(lǐng)域也正遭遇AI驅(qū)動(dòng)的攻擊升維挑戰(zhàn)，倒逼防御范式迎來(lái)革命性突破。面對(duì) “以 AI 對(duì)抗 AI” 的需求，行業(yè)亟需更高效的AI安全服務(wù)創(chuàng)新范式。

作為國(guó)內(nèi)唯一以數(shù)字貿(mào)易為主題的國(guó)家級(jí)展會(huì)，第四屆全球數(shù)字貿(mào)易博覽會(huì)（以下簡(jiǎn)稱“數(shù)貿(mào)會(huì)”）即將于9月25日 - 29日在杭州大會(huì)展中心盛大啟幕。安恒信息正式成為本屆數(shù)貿(mào)會(huì)“數(shù)字安全技術(shù)服務(wù)合作伙伴”，將以自主研發(fā)的AI+安全產(chǎn)品，為這場(chǎng)聚焦“數(shù)字貿(mào)易 商通全球”的國(guó)際盛會(huì)保駕護(hù)航。

安恒信息屆時(shí)將全球首發(fā)集成18年實(shí)戰(zhàn)沉淀、千名專家經(jīng)驗(yàn)煉成的“AI安服數(shù)字員工”，致力于構(gòu)建高效智能的新時(shí)代數(shù)字安全服務(wù)體系。這不僅是對(duì)谷歌認(rèn)定的十大AI+應(yīng)用領(lǐng)域（安全 Agent）的率先落地，更是中國(guó)安全治理理念與經(jīng)驗(yàn)向全球的重要輸出。

大會(huì)即將開(kāi)始，歡迎掃碼關(guān)注