市道新聞12月12日山西電 2025 年作為人工智能技術(shù) “爆發(fā)臨界點”，在大模型普惠化、行業(yè)深度融合的技術(shù)紅利之下，AI 技術(shù)濫用風險正持續(xù)凸顯。山西省消費者協(xié)會日前發(fā)布專項消費警示，直指 “AI 換臉”“AI 配音” 等深度偽造技術(shù)已成為詐騙分子的新型作案工具，此類詐騙因具備極強迷惑性，正對消費者財產(chǎn)安全和隱私權(quán)益構(gòu)成嚴峻威脅，而公安部數(shù)據(jù)顯示，2025 年一季度全國 AI 換臉詐騙案環(huán)比增幅已達 45%，反詐形勢日趨嚴峻。

深度偽造技術(shù)成詐騙新載體 四步流程實施精準誘騙

據(jù)山西消協(xié)披露，不法分子利用深度偽造技術(shù)實施詐騙已形成標準化作案流程，核心在于通過技術(shù)手段偽造身份獲取信任，再以緊急情境倒逼受害者完成轉(zhuǎn)賬，具體可分為四個步驟：

其一為信息搜集，詐騙分子會從抖音、微信視頻號、微博等社交媒體平臺，批量采集消費者及其親友公開發(fā)布的視頻、語音素材，用于 AI 模型訓練，為后續(xù)偽造內(nèi)容提供數(shù)據(jù)基礎；其二是制造假象，借助 AI 換臉、AI 配音技術(shù)，合成面容、聲音高度逼真的視頻或音頻，部分合成內(nèi)容已能達到以假亂真的程度；其三是情境設計，編造車禍急救、資金周轉(zhuǎn)、繳納學費、合同款支付等緊急事由，壓縮受害者思考核實的時間；其四為實施詐騙，通過視頻通話、發(fā)送音視頻片段等方式聯(lián)系受害者，最終誘導其向指定賬戶轉(zhuǎn)賬。

在具體作案場景中，此類詐騙已呈現(xiàn)出明顯的精準化、多元化特征。既有合成親屬、好友形象，以 “急事借錢” 為由實施的親情類詐騙，也有針對企業(yè)財務人員、普通員工，冒充公司領導要求緊急支付合同款、保證金的職場類詐騙，更有偽造執(zhí)法人員身份，以 “涉案” 為由要求將資金轉(zhuǎn)入 “安全賬戶” 的公權(quán)力類詐騙。此前江蘇南京曾出現(xiàn)犯罪分子利用 AI 換臉突破金融平臺人臉識別認證、盜刷銀行卡的案例，而山東寧陽一案件中，嫌疑人通過 AI 換臉偽造 “白富美” 人設網(wǎng)戀詐騙，涉案金額近 13 萬元，常州金壇一老人也曾險些因 AI 換臉偽造的 “民警” 身份，被騙走 40 余萬元養(yǎng)老金。

牢記 “三不二要” 原則 構(gòu)建多重驗證防護網(wǎng)

針對 AI 深度偽造詐騙的隱蔽性，山西消協(xié)特別提出 “三不二要” 核心防范原則，指導消費者建立 “多重驗證” 安全意識，破除 “眼見為實、耳聽為真” 的認知誤區(qū)。

在 “三不” 原則層面，首先要不輕信，對所有非線下見面場景的轉(zhuǎn)賬要求保持高度警惕，即便看到熟悉面容、聽到熟悉聲音，也需警惕詐騙分子制造的 “緊急恐慌”；其次要不轉(zhuǎn)賬，在未通過獨立渠道完成 100% 身份核實前，堅決不進行任何資金劃轉(zhuǎn)，守住財產(chǎn)安全的最后防線；同時要不泄露，謹慎在社交平臺發(fā)布高清正面視頻、原聲音頻，妥善保管身份證、銀行卡等敏感信息，通過設置好友權(quán)限避免個人信息過度公開。

而 “二要” 原則則聚焦于核實與甄別能力的提升。一方面要主動核實，若接到親友借款的視頻請求，需掛斷電話后通過手機通訊錄存號回撥，或通過共同親友交叉驗證，建議家庭、摯友間約定大額資金往來專屬暗語；另一方面要細致警惕，AI 合成內(nèi)容往往存在表情僵硬、眨眼不自然、口型與語音錯位、聲音帶電子雜音等破綻，且公檢法機關絕不會通過視頻、電話要求轉(zhuǎn)賬至 “安全賬戶”，凡是要求 “保密操作” 的指令均為詐騙信號。

遭遇詐騙需及時止損 留存證據(jù)助力案件偵破

山西消協(xié)特別提醒，消費者一旦發(fā)現(xiàn)被騙，需第一時間采取止損措施：立即撥打 110 報警或前往就近派出所報案，同步提交對方賬號、聯(lián)系方式、聊天記錄、轉(zhuǎn)賬憑證等完整證據(jù)；同時聯(lián)系銀行客服或通過手機銀行 APP 申請凍結(jié)對方賬戶，爭取實現(xiàn)資金止付，最大程度降低財產(chǎn)損失。

業(yè)內(nèi)人士指出，隨著 AI 深度偽造技術(shù)門檻持續(xù)降低，相關詐騙已形成從技術(shù)教程售賣到定制化服務的灰色產(chǎn)業(yè)鏈，部分 AI 換臉教程售價低至 8 元，10 秒定制化合成視頻報價 15 元至 300 元不等，技術(shù)濫用的低成本化正加劇詐騙風險擴散，而消費者的風險防范意識與技術(shù)甄別能力，將成為抵御此類詐騙的關鍵屏障。（陳斌）