來源：環(huán)球時報

【環(huán)球時報報道 記者 郭媛丹】“我的兩位同事在接受一次電視臺采訪后，同時收到換臉敲詐信息，當(dāng)前犯罪分子利用人工智能（AI）深度偽造技術(shù)敲詐勒索已經(jīng)形成高度流程化作業(yè)體系?！比珖f(xié)委員，安天科技集團董事長、首席架構(gòu)師肖新光日前接受《環(huán)球時報》采訪時表示，需構(gòu)建一個更強有力的治理體系。

一個真實案例引發(fā)思考

作為網(wǎng)絡(luò)安全領(lǐng)域的專家，肖新光尤其感受到今年AI話題的熱度，“我所在的團青界別有多位委員都是來自人工智能、先進制造、生物材料等領(lǐng)域，都是AI相關(guān)產(chǎn)業(yè)。我們不僅在小組討論時要談到AI領(lǐng)域的應(yīng)用、安全與發(fā)展等議題，在餐廳吃飯時大家也會聊到AI在實踐中的應(yīng)用。”

肖新光講述的一個真實案例引起大家的高度關(guān)注?！?025年，我有兩位同事，同時收到換臉敲詐信息。”憑著職業(yè)敏感性，肖新光與同事們立即進行追溯，原來這兩位同事都參加了一檔電視臺節(jié)目的采訪?！霸p騙團伙的作案手段是跟進各種新聞節(jié)目，采集人員信息，尋找人員聯(lián)系方式，制造偽造內(nèi)容，發(fā)送敲詐信息。其作案模式已經(jīng)高度流程化?！?/p>

肖新光表示，如今的AI技術(shù)，僅需一張照片、一小段語音，就能生成足以亂真的視頻。以AI換臉、聲音克隆等方式，假冒明星、主持人、企業(yè)家等公眾人物，發(fā)布不實言論，借此賺取流量甚至違法犯罪的事件時有發(fā)生。對此，肖新光表示，公眾人物有大量公開的視頻、音頻等公開素材，這些素材都可能被犯罪分子濫用，成為深度偽造的數(shù)據(jù)源。

“類似的侵權(quán)、侵害行為，已經(jīng)不是靠個人的安全意識和習(xí)慣能解決的問題，應(yīng)對核心是構(gòu)建一個更強有力的治理體系?！毙ば鹿獗硎?。

越來越多的公開報道顯示，現(xiàn)實生活中對一般侵權(quán)仿冒甚至是違法犯罪行為，絕大部分是靠遭到侵害的自然人通過向平臺投訴進行權(quán)益主張。“這種權(quán)益主張往往只能針對具體的侵害信息進行投訴，并不能向平臺整體提出全面保護自身肖像權(quán)和隱私的主張。在這個過程中，平臺擁有很大的裁量權(quán)，個人維權(quán)成本較高。”肖新光分析說，有不少案例，被假冒者根本不知道發(fā)生假冒，最終不了了之。

對于AI“造假”事件，肖新光建議，相關(guān)立法、執(zhí)法和主管部門應(yīng)將相關(guān)問題從一個技術(shù)風(fēng)險視角+平臺自治邏輯，提升到公共安全視角，建立起更系統(tǒng)的治理能力和技術(shù)體系。此外，我們在打擊各類違法犯罪行為方面都已有比較成熟的立法，可以考慮通過司法解釋和案例，對借助人工智能輔助實施各種違法犯罪的行為，給予加重處罰的導(dǎo)向。

“數(shù)字主權(quán)”已是國家安全不可分割的部分

英國《金融時報》2月27日披露美國五角大樓正計劃聯(lián)合頂尖AI企業(yè)，開發(fā)AI網(wǎng)絡(luò)工具，用于偵察、定位中國電網(wǎng)等關(guān)鍵設(shè)施與網(wǎng)絡(luò)的漏洞，為未來可能的軍事沖突做網(wǎng)絡(luò)戰(zhàn)準(zhǔn)備。

對對手的軍事和情報利用，在美方的AI相關(guān)應(yīng)用中排名靠前，因此美方將推動人工智能武器化作為其推進網(wǎng)絡(luò)空間軍事化的重點。肖新光分析說，“把人工智能運用到情報分析和網(wǎng)絡(luò)入侵攻擊等場景中，是美方投入的優(yōu)先選項，包括用人工智能自動挖掘?qū)κ执嗳跣院涂晒酎c、自動編寫惡意代碼等攻擊武器、針對性生成社會工程學(xué)欺騙內(nèi)容、自動化編排攻擊戰(zhàn)術(shù)、自動化進行任務(wù)管理等。”

據(jù)專家介紹，當(dāng)今世界大國的電力基礎(chǔ)設(shè)施規(guī)模龐大，新能源基礎(chǔ)設(shè)施占比也在不斷提升，其運行高度依賴于網(wǎng)絡(luò)信息系統(tǒng)，有大量的智能化調(diào)度管理環(huán)節(jié)，美方可以利用人工智能體系，全面、快速關(guān)聯(lián)分析相關(guān)基礎(chǔ)設(shè)施的海量信息，發(fā)現(xiàn)定位關(guān)鍵問題，尋找可打擊的關(guān)鍵節(jié)點。

肖新光認同，“數(shù)字主權(quán)”已經(jīng)和領(lǐng)土主權(quán)一樣，成為現(xiàn)代國家安全不可分割的部分。他表示，在AI技術(shù)發(fā)展領(lǐng)域，要堅定地以技術(shù)管技術(shù)、以能力對能力，以AI賦能防御，應(yīng)對對手的AI賦能攻擊。在可靠的感知、檢測、采集、響應(yīng)手段支撐下，AI技術(shù)能有效降低防御者的身心負擔(dān)，實現(xiàn)高水平自動化的防御和響應(yīng)。

建議打造“人工智能+”國家安全技術(shù)引擎

今年的政府工作報告提出“打造智能經(jīng)濟新形態(tài)”，這是政府工作報告中首次出現(xiàn)這一提法。新的發(fā)展范式也需要新的安全范式。

肖新光表示，通過過去十多年的發(fā)展，我國網(wǎng)絡(luò)安全形成了一個門類齊全的產(chǎn)業(yè)體系。是除美國以外，實現(xiàn)全賽道產(chǎn)品自主的國家，為國家安全奠定了極為難得的產(chǎn)業(yè)和能力基礎(chǔ)。與此同時，我國還存在一些發(fā)展薄弱環(huán)節(jié)。

為了順應(yīng)新的發(fā)展形勢，肖新光今年也提交了新的建議：打造“人工智能+”國家安全技術(shù)引擎，在“十五五”期間更好地探索和推動新的安全范式?！氨热?，針對智能汽車、具身智能等場景打造包括端側(cè)安全大模型在內(nèi)的專屬安全引擎和安全功能積木，升級安全運營平臺，提升安全對抗能力，讓安全能力實現(xiàn)‘關(guān)口前移、防患于未然’。”