在科技飛速發(fā)展的當(dāng)下，AI（人工智能）給咱們的生活帶來(lái)了諸多便利，但一系列利用AI的新型犯罪，也給社會(huì)安全與穩(wěn)定帶來(lái)了嚴(yán)峻挑戰(zhàn)。

本人在浙江省辦理的一起涉嫌詐騙案中，犯罪嫌疑人就是通過(guò)各種途徑收集大量個(gè)人信息，運(yùn)用 AI 算法進(jìn)行深度分析，把受害人的興趣愛(ài)好到消費(fèi)習(xí)慣，及社交關(guān)系到財(cái)務(wù)狀況，都摸得一清二楚；再通過(guò)采集受害人多角度照片或短視頻之后，利用AI 變臉技術(shù)已從靜態(tài)圖像偽造發(fā)展為實(shí)時(shí)動(dòng)態(tài)視頻合成實(shí)施詐騙。更嚴(yán)重的是，犯罪團(tuán)伙甚至能實(shí)時(shí)替換視頻通話(huà)中的人臉，在對(duì)話(huà)過(guò)程中動(dòng)態(tài)調(diào)整表情和動(dòng)作，而現(xiàn)有技術(shù)對(duì)動(dòng)態(tài)偽造視頻的識(shí)別率不足 80%，部分檢測(cè)工具在低分辨率或復(fù)雜光線環(huán)境下準(zhǔn)確率驟降至 50% 以下，普通用戶(hù)難以察覺(jué)異常。

據(jù)公安部數(shù)據(jù)顯示，2025 年一季度全國(guó) AI 換臉詐騙案環(huán)比再增 45%，老年群體受騙占比達(dá) 38%，成為主要目標(biāo)，單筆最高損失達(dá) 620 萬(wàn)元（上海某企業(yè)高管被騙案例）。香港荃灣 2025 年 4 月破獲的詐騙中心，通過(guò) AI 換臉假扮 "美女" 誘導(dǎo)受害人開(kāi)設(shè)虛假電商平臺(tái)，每周騙款高達(dá)百萬(wàn)元，涉及跨境犯罪網(wǎng)絡(luò)。當(dāng)前，犯罪團(tuán)伙通過(guò)爬取社交媒體、外賣(mài)地址等信息構(gòu)建 "受害人畫(huà)像"，使詐騙成功率提升 2.3 倍，而盡管《人臉識(shí)別技術(shù)應(yīng)用安全管理辦法》于 2025 年 6 月 1 日施行，但對(duì) AI 生成內(nèi)容的 "顯著標(biāo)識(shí)" 標(biāo)準(zhǔn)尚未明確，平臺(tái)審核責(zé)任缺乏操作指引，技術(shù)提供者追責(zé)機(jī)制也不完善，防范形勢(shì)嚴(yán)峻。

為有效遏制 AI 變臉電信詐騙的蔓延，切實(shí)保障人民群眾財(cái)產(chǎn)安全，提出以下建議：

一、完善法律體系，壓實(shí)主體責(zé)任。參照歐盟《人工智能法》，在《反電信網(wǎng)絡(luò)詐騙法》中增設(shè)專(zhuān)門(mén)條款，明確 "為詐騙提供 AI 換臉工具者，除依法追究刑事責(zé)任外，可處違法所得 5-10 倍罰款，最高不超過(guò) 5000 萬(wàn)元"；規(guī)定技術(shù)平臺(tái)未履行 AI 生成內(nèi)容審核義務(wù)的，由網(wǎng)信部門(mén)責(zé)令暫停相關(guān)業(yè)務(wù)直至整改達(dá)標(biāo)。2025 年底前，由國(guó)家網(wǎng)信辦牽頭出臺(tái)《AI 生成內(nèi)容標(biāo)識(shí)管理細(xì)則》，強(qiáng)制要求對(duì)深度偽造的音視頻添加不可去除的水印標(biāo)識(shí)，如在視頻角落標(biāo)注 "合成內(nèi)容" 電子標(biāo)簽，從法律層面明確內(nèi)容生產(chǎn)者的標(biāo)識(shí)義務(wù)。

二、強(qiáng)化技術(shù)反制，筑牢安全防線。推動(dòng)金融、政務(wù)、支付等重點(diǎn)領(lǐng)域強(qiáng)制部署高精度檢測(cè)技術(shù)，2025 年 12月底前實(shí)現(xiàn) 100% 覆蓋。推廣成熟檢測(cè)系統(tǒng)（準(zhǔn)確率超 96%），支持其與國(guó)家反詐中心數(shù)據(jù)互通，實(shí)時(shí)共享新型偽造特征庫(kù)。在數(shù)據(jù)安全管理方面，由國(guó)家發(fā)改委、工信部牽頭，2025 年底前在金融、醫(yī)療行業(yè)試點(diǎn)人臉數(shù)據(jù) "區(qū)塊鏈存證 + 國(guó)密算法加密" 技術(shù)，確保數(shù)據(jù)采集、存儲(chǔ)、使用全流程可追溯、不可篡改。企業(yè)采集人臉信息時(shí)，須采用隱私計(jì)算技術(shù)，通過(guò)多方安全計(jì)算實(shí)現(xiàn) "數(shù)據(jù)可用不可見(jiàn)"，違規(guī)泄露人臉數(shù)據(jù)的企業(yè)，除承擔(dān)民事賠償外，相關(guān)責(zé)任人依法追究刑事責(zé)任。

三、構(gòu)建多維反詐宣傳體系，提升反詐能力。要通過(guò)宣傳提升群眾防范意識(shí)，提醒群眾保護(hù)個(gè)人生物信息，謹(jǐn)慎對(duì)待不明鏈接、郵件。針對(duì)老年人，在社區(qū)、老年大學(xué)開(kāi)展“AI 反詐工作坊”；針對(duì)企業(yè)財(cái)務(wù)人員，聯(lián)合行業(yè)協(xié)會(huì)開(kāi)展 “反詐模擬演練”，識(shí)別偽造高管指令的常見(jiàn)話(huà)術(shù)。利用短視頻平臺(tái)制作 “AI 詐騙拆解” 系列動(dòng)畫(huà)，還原詐騙分子如何通過(guò)外賣(mài)信息、社交動(dòng)態(tài)定制劇本，提示公眾避免在網(wǎng)絡(luò)暴露人臉、聲紋等敏感信息。推廣“國(guó)家反詐中心 APP”的“AI 預(yù)警”功能，實(shí)時(shí)攔截可疑視頻通話(huà)。構(gòu)建起“全民參與、全域覆蓋”的防御網(wǎng)絡(luò)，讓AI犯罪無(wú)處遁形。

四、深化源頭治理，強(qiáng)化跨境打擊。外交部會(huì)同公安部與“一帶一路”國(guó)家建立 AI 犯罪情報(bào)共享平臺(tái)，建立 "48 小時(shí)跨境協(xié)查機(jī)制"，共享犯罪團(tuán)伙的技術(shù)特征、資金流向和人員信息，聯(lián)合開(kāi)展系列專(zhuān)項(xiàng)行動(dòng)，實(shí)現(xiàn)對(duì)跨境詐騙團(tuán)伙 "資金鏈 + 技術(shù)鏈 + 人員鏈" 的同步打擊，2025 年內(nèi)力爭(zhēng)聯(lián)合偵破至少 20 起重大跨境 AI 詐騙案件。（文/湖南君杰律師事務(wù)所許小軍）