商海春繪(新華社發(fā))

隨著技術(shù)發(fā)展,不法分子偽造人物圖片、視頻、聲音進(jìn)行詐騙的案件時(shí)有發(fā)生,不少老年人甚至中青年,因?qū)π录夹g(shù)不熟悉、防范意識(shí)相對(duì)薄弱,成為詐騙的目標(biāo)。AI(人工智能)時(shí)代,如何更好地守護(hù)銀發(fā)族權(quán)益?相關(guān)部門、網(wǎng)絡(luò)平臺(tái)要加強(qiáng)監(jiān)管力度,老年朋友也要增強(qiáng)反詐意識(shí),認(rèn)清套路、掌握方法,有效避開陷阱。

——編 者

零門檻教你搞副業(yè)?小心“免費(fèi)”培訓(xùn)

“免費(fèi)訓(xùn)練營,教你用AI搞副業(yè),零門檻入門!”“輕松駕馭AI、月入過萬”……一段時(shí)間以來,網(wǎng)絡(luò)技能培訓(xùn)市場(chǎng)持續(xù)升溫,AI培訓(xùn)成為“新風(fēng)口”,面對(duì)網(wǎng)上鋪天蓋地的課程推廣,不少想賺“外快”的老年群體也動(dòng)了心。

近期,北京市一名退休人員陳先生在瀏覽短視頻平臺(tái)時(shí),被號(hào)稱“免費(fèi)AI培訓(xùn)”的線上直播吸引。進(jìn)入直播間,很多人在彈幕上說培訓(xùn)是真免費(fèi),陳先生便信以為真,“誰知道他們都是托兒,說是免費(fèi)上課,但我前前后后花了4000元購買‘高階課程’。”以免費(fèi)為噱頭吸引到用戶后,一名自稱“班主任”的工作人員會(huì)添加用戶微信,并高價(jià)推銷課程以及“一對(duì)一私教班”,承諾有專屬指導(dǎo)老師,誘導(dǎo)學(xué)員高價(jià)購買。陳先生逐漸意識(shí)到不對(duì)勁,與其他受害者發(fā)起維權(quán)。

通過網(wǎng)絡(luò)監(jiān)測(cè)系統(tǒng),北京市市場(chǎng)監(jiān)督管理局也關(guān)注到該公司的不尋常舉動(dòng),迅速對(duì)其進(jìn)行立案調(diào)查。責(zé)令該公司立即停止課程銷售,主動(dòng)聯(lián)系學(xué)員退款。目前,涉案公司已注銷,累計(jì)向受騙消費(fèi)者退款超百萬元,其中涉案受騙的以中老年群體居多。

北京市市場(chǎng)監(jiān)管綜合執(zhí)法總隊(duì)八支隊(duì)工作人員袁明表示,該公司在多個(gè)短視頻平臺(tái)大量投放以“免費(fèi)AI培訓(xùn)直播”為誘餌的虛假廣告,通過添加微信、組建群聊等方式,構(gòu)建私域流量池,脫離公共視線,然后進(jìn)行欺詐。該公司人員不斷發(fā)送類似“搶到享受兩折優(yōu)惠”“只剩最后幾個(gè)名額”等信息,那些被“高收入”沖昏頭腦的用戶,稀里糊涂就付了錢。所謂的“免費(fèi)課程分享”,不過是為付費(fèi)課程鋪墊的洗腦前奏。

袁明提醒消費(fèi)者,理性看待宣傳案例與收益承諾。切勿輕信商家宣傳中展示的“學(xué)員高收益案例”,時(shí)刻保持頭腦清醒,不相信輕松獲利的“捷徑”。

佳人與你互訴衷腸?謹(jǐn)防“戀愛”騙局

深夜,上海浦東的某棟公寓內(nèi),老李(化名)的手機(jī)交友APP里,一名“女性好友”正與他傾訴衷腸。該“女子”自稱“琳琳”,單身離異,目前在上海經(jīng)營著小生意?！案杏X和你聊天特別投緣,要是親密度再高一點(diǎn),我們就能加微信私下聊了……”因?yàn)檫@句承諾,老李前前后后在一款交友APP里充值了數(shù)萬元。可他未曾想到,屏幕那端的“佳人”,竟然是AI生成的虛擬形象,操作賬號(hào)的甚至是一名男性。

這是浦東警方近期破獲的一起交友APP詐騙案中的真實(shí)情景。2025年9月以來,多名被害人報(bào)案稱在該交友APP中被誘導(dǎo)大額充值后“戀愛對(duì)象”失聯(lián)。警方偵查發(fā)現(xiàn),一個(gè)以劉某、許某為首的詐騙團(tuán)伙,以網(wǎng)絡(luò)科技公司為幌子,構(gòu)建了一個(gè)層層遞進(jìn)的詐騙體系。

上海市公安局浦東分局反詐中心民警徐越分析:首先,他們通過技術(shù)手段設(shè)下騙局——開發(fā)雙版本APP,主要吸引男性用戶,誘導(dǎo)注冊(cè)用戶充值購買金幣進(jìn)行聊天,而另一端由詐騙團(tuán)伙聘用的“聊手”使用內(nèi)部版本注冊(cè)女性賬號(hào),并使用由AI生成或經(jīng)過美顏處理的照片頭像,吸引他人。在此基礎(chǔ)上,詐騙分子布下誘餌,用量身定制的話術(shù)劇本,塑造“單身離異、渴望真情”的人設(shè),通過提升“親密度”才能加微信、線下見面為由,誘使被害人持續(xù)充值以提升“親密度”,而標(biāo)準(zhǔn)完全由后臺(tái)操控、可以隨時(shí)調(diào)高,讓被害人無法達(dá)到。最后,形成閉環(huán)的金錢收割體系——按照該團(tuán)伙制定的規(guī)則,文字聊天需要付費(fèi),視頻通話高達(dá)每分鐘10元,虛擬禮物的價(jià)格更是不菲,所有充值款最終會(huì)匯入團(tuán)伙控制的賬戶。一名“聊手”一個(gè)月可從數(shù)名被害人的充值中牟利上萬元。2025年12月起,浦東警方跨省份收網(wǎng),合計(jì)抓獲6個(gè)相關(guān)詐騙團(tuán)伙,涉案金額逾1000萬元。

孫子惹禍急需用錢?警惕“擬聲”詐騙

2025年4月28日,家住湖北省黃石市的丁女士接到“孫子”的一通緊急電話。

“奶奶,我在學(xué)校和同學(xué)打架,把人打傷了,對(duì)方要4萬元私了?！彪娫捘穷^,“孫子”帶著哭腔,語氣急促,“對(duì)方家長馬上上門拿錢,千萬別告訴別人,免得事情鬧大?！?/p>

70多歲的丁女士來不及多想,就將匆忙湊夠的2萬元現(xiàn)金交給上門取款的男子吳某。當(dāng)晚,孫子回家后,丁女士詢問此事,才發(fā)現(xiàn)自己被騙,隨即報(bào)了警。4月底到5月初,黃石市公安局接到3起同類型報(bào)警,其他兩名老人被同樣的話術(shù)騙了共4萬元。

接警后,黃石市公安局迅速出動(dòng),將負(fù)責(zé)轉(zhuǎn)移詐騙資金的吳某抓獲,把被騙資金全額歸還給3名老人。2025年12月,湖北省黃石市黃石港區(qū)人民法院依法判處吳某有期徒刑兩年一個(gè)月,并處罰金人民幣15000元。

黃石市公安局刑偵支隊(duì)民警蘭迪介紹,不法分子通過非法渠道獲取被害人親屬的語音片段,利用AI語音合成技術(shù)復(fù)制其聲音,克隆出高度相似的聲線甚至語氣,以借錢、投資、緊急救助等理由誘導(dǎo)其親友轉(zhuǎn)賬匯款,或提供銀行賬戶密碼等敏感信息,隨后立即轉(zhuǎn)移資金。

由于老年人對(duì)新技術(shù)辨別能力弱,極易被不法分子盯上,老年人如何防范“擬聲”詐騙?“可以讓老年人用家鄉(xiāng)話、土話和對(duì)方聊幾句;還可以用一些只有家庭成員知道的信息,跟對(duì)方進(jìn)行核實(shí),如果答不上來,或者答非所問,對(duì)方很有可能就是詐騙分子。”蘭迪說。

當(dāng)老年人遭遇此類詐騙,仍有補(bǔ)救余地。蘭迪介紹,首先應(yīng)立即撥打110報(bào)警,或直接前往派出所說明情況。其次,要第一時(shí)間通知家人,防止被連環(huán)詐騙。

“騙子很可能更換身份和號(hào)碼再次來電,遇到這類電話一定要核實(shí)對(duì)方身份及信息真?zhèn)巍！碧m迪說。

專家線上直播帶貨?提防“換臉”坑錢

隨著AI技術(shù)廣泛應(yīng)用,深度偽造、AI換臉等技術(shù)被不法分子濫用,成為虛假宣傳的新型工具。日前,廣東佛山市市場(chǎng)監(jiān)管局公布一起典型AI虛假廣告案例。2025年3月,佛山市新娛科技有限公司未經(jīng)授權(quán),利用AI技術(shù)仿冒某著名經(jīng)濟(jì)學(xué)專家的形象,制作65秒帶貨視頻,在其視頻號(hào)“AAZ甄選好物”上推銷“AAZ腦力素”壓片糖果,利用老年人對(duì)專家權(quán)威的信任實(shí)施誤導(dǎo)。

經(jīng)佛山市南海區(qū)桂城市場(chǎng)監(jiān)管所核查,該內(nèi)容為虛假宣傳,企業(yè)未獲得任何合法授權(quán),違反了《中華人民共和國廣告法》第四條規(guī)定。執(zhí)法部門依法責(zé)令該公司立即停止發(fā)布虛假廣告,在相應(yīng)范圍內(nèi)消除影響,并依法作出行政處罰。

華南理工大學(xué)未來技術(shù)學(xué)院院長蔡宏民表示,當(dāng)前生成式人工智能已進(jìn)入多模態(tài)深度融合階段,換臉與語音合成擬真度極高,僅需十幾秒語音、幾張照片,就能精準(zhǔn)復(fù)刻知名人物面部微表情、語調(diào)、呼吸節(jié)奏等細(xì)節(jié),肉眼幾乎無法分辨。這類造假隱蔽性強(qiáng),老年群體尤其容易上當(dāng)。

蔡宏民建議,針對(duì)這類技術(shù)濫用,以AI治AI是直接高效的防控路徑,網(wǎng)絡(luò)平臺(tái)與監(jiān)管部門應(yīng)合力推進(jìn)。平臺(tái)應(yīng)部署多模態(tài)深度偽造檢測(cè)模型,通過捕捉AI生成內(nèi)容的隱性偽影、頻域特征異常及唇音同步偏差,實(shí)現(xiàn)秒級(jí)識(shí)別、精準(zhǔn)攔截,部分模型準(zhǔn)確率達(dá)95%以上;植入可擴(kuò)展通用對(duì)抗性水印,在權(quán)威人士的影像、語音素材中嵌入隱形標(biāo)識(shí),一旦被偽造就會(huì)觸發(fā)標(biāo)識(shí),從而破壞生成內(nèi)容,實(shí)現(xiàn)事前主動(dòng)防御;搭建知名人物數(shù)字特征庫,收錄其人臉、聲紋核心特征,對(duì)冒用身份的偽造內(nèi)容實(shí)現(xiàn)自動(dòng)識(shí)別、快速封禁,從源頭遏制技術(shù)濫用。同時(shí),也要強(qiáng)化對(duì)大眾的科普,讓老年人了解偽造技術(shù)的特點(diǎn)。

來源：人民日?qǐng)?bào)