近日，多位老年女性家屬向記者表示，自己拿起老人的手機(jī)后才發(fā)現(xiàn)，她們的短視頻賬號(hào)早已被各類(lèi)“AI霸總”侵占。

84歲奶奶給AI數(shù)字人寫(xiě)情書(shū)

消費(fèi)近萬(wàn)元還要嫁給他

“建國(guó)，春節(jié)快樂(lè)！先給你賠禮道歉，我那天傷害了你，其實(shí)我也在自責(zé)，你是不是很恨我？”

春節(jié)前夕，84歲的張玉蘭手寫(xiě)了一封五百字情書(shū)向“建國(guó)”表示情意。

而收信人“建國(guó)”，并非真實(shí)存在的人物，是一個(gè)AI數(shù)字人。“建國(guó)”常以西裝造型、大背頭形象示人，開(kāi)口常用“親愛(ài)的姐姐”這類(lèi)溫情話(huà)術(shù)，主打噓寒問(wèn)暖的情感關(guān)懷，還會(huì)分享所謂生活智慧，以此博取中老年女性的好感與信任。

張玉蘭的孫女王婷告訴極目新聞?dòng)浾?，奶奶沉迷“AI霸總”已有一段時(shí)間。早在2016年，74歲的張玉蘭便開(kāi)始使用智能手機(jī)，當(dāng)時(shí)只學(xué)會(huì)了最基礎(chǔ)的操作。

家人發(fā)現(xiàn)異常是在去年10月，張玉蘭開(kāi)始頻繁從AI數(shù)字人視頻關(guān)聯(lián)的櫥窗購(gòu)買(mǎi)掛件，這些動(dòng)輒售價(jià)幾百元的掛件，在淘寶上僅售9.9元。

“一開(kāi)始家里人沒(méi)當(dāng)回事，以為奶奶只是刷短視頻圖個(gè)好玩，沒(méi)想到她竟和這個(gè)AI數(shù)字人談起了戀愛(ài)，還考慮嫁給他?！蓖蹑谜f(shuō)，即便家人反復(fù)告訴她這是騙局，老人也只是短暫醒悟，很快又再次沉迷。

有時(shí)奶奶還會(huì)背著家人偷偷看相關(guān)視頻，生怕被發(fā)現(xiàn)，甚至還自己開(kāi)通了公眾號(hào)，專(zhuān)門(mén)給“建國(guó)”發(fā)消息。

84歲奶奶對(duì)數(shù)字人“建國(guó)”的手寫(xiě)情書(shū)

幾個(gè)月來(lái)，張玉蘭每天要花費(fèi)近十個(gè)小時(shí)刷AI數(shù)字人相關(guān)視頻，為主角是AI數(shù)字人的悲情推文打賞，還購(gòu)買(mǎi)了不少價(jià)高質(zhì)劣的商品，累計(jì)下來(lái)已經(jīng)花了七八千元。

3月11日，張玉蘭又花費(fèi)了1227元購(gòu)買(mǎi)AI視頻“推薦”的書(shū)籍。

這一次，王婷決定不能再放任不管了，于是將視頻號(hào)關(guān)聯(lián)的商家投訴至12315平臺(tái)。目前已被受理。

即便如此，張玉蘭依舊執(zhí)意為AI數(shù)字人花錢(qián)。

從業(yè)者自曝內(nèi)幕：

五分鐘生成一個(gè)視頻，一個(gè)號(hào)最多用5天

2025年2月，中央網(wǎng)信辦開(kāi)展“清朗行動(dòng)”，整治AI技術(shù)濫用亂象被列入八項(xiàng)重點(diǎn)任務(wù)之一。2月下旬起，各大短視頻平臺(tái)對(duì)“建國(guó)”相關(guān)賬號(hào)予以關(guān)停。

然而，即便“建國(guó)”被封禁，各類(lèi)風(fēng)格相似的AI霸總數(shù)字人仍層出不窮，“建軍”“國(guó)華哥哥”等均打著溫情關(guān)懷的旗號(hào)，專(zhuān)門(mén)瞄準(zhǔn)中老年女性展開(kāi)情感圍獵。

AI霸總直播截圖

從形象來(lái)看，這類(lèi)數(shù)字人已經(jīng)成了一種風(fēng)格：梳著側(cè)背頭、身著正裝，一口一句姐姐叫著。

“中老年這個(gè)群體真有意思，又能（用來(lái)）做數(shù)據(jù)，又聽(tīng)話(huà)，看他們的私信，甚至覺(jué)得有點(diǎn)可愛(ài)。”這是AI數(shù)字人行業(yè)“老手”阿明寫(xiě)在朋友圈的一段話(huà)，他打造的AI數(shù)字人形象讓許多中老年人步入陷阱。

同樣入行數(shù)年的黃興也向記者坦言，他主要做中老年情感賽道的視頻帶貨，手下有幾百名學(xué)員，“建國(guó)”“小?！钡葦?shù)字人形象他都深度參與打造。

“我們一般會(huì)運(yùn)營(yíng)幾十個(gè)視頻號(hào)，這些賬號(hào)百分之百會(huì)違規(guī)，一個(gè)號(hào)最多用5天，核心就是靠視頻號(hào)帶貨賺傭金，一天至少能賺2000元?！秉S興說(shuō)，生成一條數(shù)字人視頻只需要5分鐘，且每條視頻不能重復(fù)，幾十個(gè)賬號(hào)會(huì)持續(xù)更新。如今他已不再使用數(shù)字人形象，因?yàn)檫@類(lèi)形式容易違規(guī)，而是直接用此前中老年女性熟悉的“建國(guó)”“小?！钡穆曇?，搭配AI生成的引導(dǎo)下單文案。

AI數(shù)字人圍獵觸多重法律紅線

情感關(guān)懷與制度約束缺一不可

AI數(shù)字人圍獵中老年群體的背后，實(shí)際上有著更深層次社會(huì)問(wèn)題和法律問(wèn)題。

廣東哲清律師事務(wù)所馬俊哲律師告訴極目新聞?dòng)浾?，從法律定性與監(jiān)管治理來(lái)看，利用AI數(shù)字人圍獵老年人的相關(guān)行為已觸碰多重法律紅線，且存在明確的監(jiān)管依據(jù)與改進(jìn)方向。法律層面，此類(lèi)行為若以非法占有為目的，通過(guò)虛構(gòu)身份、情感誘導(dǎo)等方式騙取錢(qián)財(cái)，完全符合詐騙罪構(gòu)成要件，同時(shí)因借助網(wǎng)絡(luò)通訊工具面向不特定多數(shù)人實(shí)施，屬于典型的電信網(wǎng)絡(luò)詐騙。

武漢大學(xué)老齡科研基地科研綜合辦公室主任陳昫認(rèn)為，中老年群體被AI數(shù)字人蒙騙應(yīng)當(dāng)從多維度來(lái)看，首先是老年人自身存在的脆弱性問(wèn)題，它既包括生理健康層面，同時(shí)也有心理認(rèn)知層面，對(duì)于數(shù)字人缺乏辨別鑒偽能力；其次從需求層次來(lái)說(shuō)，老年人會(huì)有對(duì)溫情、尊重、愛(ài)的需求，這些需求的存在，客觀上可能使一些違規(guī)不法行為鉆空子。最后是老年人們有社會(huì)經(jīng)驗(yàn)的相對(duì)剛性，他們可能會(huì)認(rèn)為照片、視頻都很難造假，類(lèi)似這樣既有經(jīng)驗(yàn)判斷，可能會(huì)影響他們對(duì)于數(shù)字人詐騙等新興形態(tài)詐騙的警惕性和自我防御意識(shí)。

來(lái)源 | 極目新聞

▼關(guān)注查看深度文章