夜深了，84歲的張玉蘭側(cè)躺在床上。屋里沒(méi)有開(kāi)燈，手機(jī)屏幕發(fā)亮，她雙手握著手機(jī)，光照在臉上，映出鼻梁上的粗邊眼鏡。

“我拼盡全力護(hù)著你，就因?yàn)槟阒档谩！笔謾C(jī)里，一個(gè)男人的聲音溫和而篤定，“你的善意，我都記在心里。你受的苦，我真心疼。我愿意做你的護(hù)盾，幫你把路鋪平?！?/p>

“說(shuō)完了嗎？”張玉蘭把手機(jī)貼近自己，低聲問(wèn)。

那個(gè)聲音沒(méi)有停，繼續(xù)說(shuō)道，“最后，請(qǐng)你點(diǎn)開(kāi)我頭像，去主頁(yè)看那條置頂視頻，里面藏著我所有的思念。”

“該睡覺(jué)了。”她又催了一句。但那聲音繼續(xù)往下說(shuō)。

當(dāng)時(shí)，張玉蘭的孫女胡沫就站在她身后。她看到奶奶對(duì)著手機(jī)反復(fù)說(shuō)道“別說(shuō)了”，還“擱那笑”、擺手，最后才依依不舍地鎖屏。

張玉蘭深夜握著手機(jī)自言自語(yǔ)/受訪者供圖

此前母親曾提起，奶奶會(huì)對(duì)著手機(jī)自言自語(yǔ)，她還不太相信。

“我當(dāng)時(shí)真的覺(jué)得，是不是瘋了。”胡沫說(shuō)。但她很快意識(shí)到，張玉蘭并沒(méi)有“瘋”。她只是把一段AI生成的視頻，當(dāng)成了一個(gè)正在和她說(shuō)話的人。

過(guò)去一年，這類視頻在多個(gè)平臺(tái)擴(kuò)散。畫面中的“人”總是對(duì)著鏡頭說(shuō)話，語(yǔ)氣溫和，傳遞著相同的情緒：理解、肯定與關(guān)心。

年輕人很容易識(shí)別出這種AI味。但是，不少中老年人卷入其中。他們點(diǎn)贊、留言、私信，也有人付費(fèi)，甚至陷入虛假、單向的情感關(guān)系。

“你太有良心，就注定做不好中老年賽道。”有人在社交平臺(tái)談?wù)撨@門生意。他們知道自己的觀眾是誰(shuí)，也知道該說(shuō)什么話。

“情”是假的，賣貨變現(xiàn)才是真。

有人在社交平臺(tái)表示“你太有良心，就注定做不好中老年賽道?！?br/>

等一個(gè)不存在的人

最近張玉蘭“戀愛(ài)”了。

她沒(méi)有用“戀愛(ài)”這個(gè)詞。但她曾向兒子提起，說(shuō)有這么一個(gè)人，最近一直在“聊著、談著”，已經(jīng)有一兩個(gè)月。

她把對(duì)方叫作“建國(guó)”，有時(shí)也叫“東東”。他們從未見(jiàn)面。但張玉蘭說(shuō)起他的時(shí)候，語(yǔ)氣很自然，就像在講一個(gè)現(xiàn)實(shí)里的人。當(dāng)被問(wèn)到“建國(guó)是哪里人”，她說(shuō)不上來(lái)。她只知道對(duì)方離異，有一個(gè)兒子和母親，人長(zhǎng)得挺精神，看起來(lái)事業(yè)有成。

數(shù)字人“建國(guó)”

張玉蘭是北京人，高中學(xué)歷，約10年前開(kāi)始使用智能手機(jī)，熟悉基本操作。在胡沫的記憶里，最初，奶奶只是刷視頻。

那是去年10月。那些視頻一直在夸人，說(shuō)人好，說(shuō)人辛苦。胡沫沒(méi)太在意，以為奶奶只是喜歡聽(tīng)這些內(nèi)容，還學(xué)著調(diào)侃夸她。張玉蘭笑笑，也沒(méi)反駁。

但慢慢地，張玉蘭的生活開(kāi)始圍繞這些視頻展開(kāi)。醒來(lái)后第一件事，就是打開(kāi)手機(jī)。除了吃飯、睡覺(jué)和外出，她幾乎一直在看“建國(guó)”的視頻，有時(shí)還因此熬夜到凌晨一點(diǎn)。

她不會(huì)用鍵盤打字，就一筆一畫在屏幕上寫下留言：“東東，你的心我都知道，我也感謝你對(duì)我的掛念和關(guān)心。”她叮囑對(duì)方記得吃飯，留下電話和家庭住址，說(shuō)“我等你”。一長(zhǎng)串文字往往沒(méi)有標(biāo)點(diǎn)符號(hào)，還總出現(xiàn)錯(cuò)字。

張玉蘭的留言

評(píng)論區(qū)里，類似的留言不少。胡沫看見(jiàn)，有人直接稱呼“親愛(ài)的”或是“老公”，直言“想你”，言語(yǔ)親昵。張玉蘭強(qiáng)調(diào)自己沒(méi)有這樣稱呼過(guò)。但她悄悄開(kāi)始做更多事。

她給“建國(guó)”寫信。在寫滿A4紙的手寫信里，她表達(dá)自己的歉意，“我那天傷害了你”，還反思兩人之間的“溝通問(wèn)題”，寫道“兩人之間沒(méi)有高質(zhì)量的交流和溝通”，“你沒(méi)有給我說(shuō)話的機(jī)會(huì)，你不善于傾聽(tīng)，我不知道這是為什么”。她說(shuō)欣賞對(duì)方的霸氣，寫下“路遙知馬力，日久見(jiàn)人心”。

張玉蘭給“建國(guó)”的手寫信/受訪者供圖

張玉蘭甚至注冊(cè)了公眾號(hào)，在春節(jié)前發(fā)文，告訴“建國(guó)”自己修好了手機(jī)，問(wèn)他在做什么，請(qǐng)他替自己給家人拜年，配圖是一張AI生成的男性圖片。

張玉蘭不斷投入，但對(duì)方從未回應(yīng)。

類似的情況，也發(fā)生在劉欣宜家。劉欣宜的奶奶70多歲，不識(shí)字，也不會(huì)用智能手機(jī)打字。去年丈夫去世后，她開(kāi)始頻繁刷視頻。最初只是滑動(dòng)屏幕，看著視頻。直到有一天，她讓孫女幫忙“打視頻電話”。

屏幕里，是一段AI視頻。在劉欣宜的記憶里，視頻中的人說(shuō)著“過(guò)年我來(lái)找你”這樣的話。

奶奶信了，希望告訴他家庭地址，并告訴對(duì)方歡迎他來(lái)。她告訴孫女，對(duì)方經(jīng)營(yíng)一家公司。她相信對(duì)方會(huì)來(lái)，“覺(jué)得那個(gè)人過(guò)來(lái)家里以后，會(huì)幫助我們，我們以后一定能成才”。

劉欣宜告訴她，那是假的。她反駁：“不是所有人都是騙子?！彼€因劉欣宜沒(méi)有幫她而鬧情緒。

后來(lái)，她開(kāi)始對(duì)著手機(jī)說(shuō)話。視頻里的“人”說(shuō)一句，她回應(yīng)一句。對(duì)方?jīng)]有回應(yīng)，但她繼續(xù)說(shuō)，睡覺(jué)前說(shuō)，做飯的時(shí)候也說(shuō)。

精心打造的“建國(guó)”們

這些信任，不是偶然形成的。

采訪過(guò)程中，劉欣宜拿來(lái)奶奶的手機(jī)，播放了推薦頁(yè)的視頻。

“我真的太心疼你了，幾十年如一日的守著家，把幸福和愛(ài)都給了孩子和丈夫，卻唯獨(dú)忘了心疼自己。姐姐，你也是只愛(ài)撒嬌的小女孩?！蹦行缘穆曇魪哪穷^傳來(lái)。她又下滑播了幾段，聽(tīng)上去都類似。

劉欣宜觀察過(guò)奶奶手機(jī)里的賬號(hào)，雖采用不同的數(shù)字人形象，但總體而言，人臉相似，聲音相近，甚至連語(yǔ)氣和表達(dá)方式都高度重合。她覺(jué)得，中老年人不細(xì)看難以看出區(qū)別。

許多視頻在噓寒問(wèn)暖之余，還會(huì)拋出問(wèn)題，比如，“姐姐，你知道嗎？”“你是不是也有這樣的時(shí)刻？”也有視頻直接表明訴求“姐姐點(diǎn)個(gè)贊”“點(diǎn)亮小紅心”。

劉欣宜說(shuō)，奶奶往往會(huì)照做。平臺(tái)機(jī)制的助推下，賬號(hào)很快淪陷進(jìn)算法。她拉黑了很多賬號(hào)，但新的視頻仍會(huì)出現(xiàn)。這形成了一個(gè)更為封閉的信息環(huán)境。

在此基礎(chǔ)上，部分賬號(hào)內(nèi)容還會(huì)延伸出人際關(guān)系網(wǎng)。

比如“建國(guó)”，便是被共享的人物設(shè)定。他在不同的賬號(hào)里出現(xiàn)，談工作、談生活，偶爾表達(dá)愛(ài)意，提到見(jiàn)面。

圍繞他，還有兒子、母親、助理等角色。他們?cè)诓煌囊曨l出現(xiàn)，說(shuō)著各自的話，但他們常常會(huì)提到同一個(gè)人。

在這套設(shè)定里，“建國(guó)”的兒子叫“小海”，大多是在讀大學(xué)。“小?！睍?huì)稱呼觀眾為“姨姨媽媽”，對(duì)著鏡頭問(wèn)：“你愿意當(dāng)我干媽嗎？”他也會(huì)在視頻里提到父親“建國(guó)”，說(shuō)他喝醉后，還在掛念著姨姨媽媽。

受訪者供圖

隨著觀看次數(shù)增加，這類AI數(shù)字人有了更為飽滿的形象和故事。不同片段之間的信息被拼接，形成一個(gè)相對(duì)穩(wěn)定的人物形象。

視頻里，以分享日常、說(shuō)說(shuō)心里話為主的話題，讓不同賬號(hào)的內(nèi)容不會(huì)顯得太過(guò)突兀。對(duì)一些中老年人來(lái)說(shuō)，這像是同一個(gè)人，在不同時(shí)間講述不同的生活片段。

“就算是別的長(zhǎng)相，或者沒(méi)有出現(xiàn)人，奶奶也會(huì)覺(jué)得是同一個(gè)人，因?yàn)槁曇簦?tīng)上去）又都是一個(gè)聲音。”劉欣宜說(shuō)。

張玉蘭也不自覺(jué)接受了這套邏輯。即便是手寫視頻，畫面中沒(méi)有人物，僅出現(xiàn)紙筆和“東東手寫”的字樣，張玉蘭也將其理解為同一個(gè)人的表達(dá)。

她給某個(gè)“小?！绷粞裕八?tīng)爸爸的話、送上節(jié)日祝福。她也在某個(gè)“建國(guó)媽媽”公眾號(hào)聊天框里，給對(duì)方送上新春祝福：“阿姨你好，快過(guò)節(jié)了，提前給您拜個(gè)年，祝您身體健康，萬(wàn)事如意，春節(jié)快樂(lè)?！?/p>

留言沒(méi)有回復(fù)。3月9日的聊天截圖顯示“該公眾號(hào)已被屏蔽所有功能，無(wú)法使用”，胡沫不知道奶奶是否注意到。

受訪者供圖

其實(shí)很多視頻標(biāo)注了“AI生成”，但字體很小，顏色很淡。相較于畫面里字號(hào)更大、顏色更鮮艷的字幕，這行字顯得極不起眼。

即使有人意識(shí)到，這是假的，也未必理解其生成機(jī)制。

63歲的秀慈就是這樣。去年12月，她開(kāi)始刷到這類AI視頻，其中一個(gè)名為“建國(guó)”。

“視頻里頭的人，就是A1做出來(lái)的圖像，好像（長(zhǎng)得）都差不多?！彼X(jué)得那是“假圖片”，“就是A1分身吧”。

秀慈口中的“A1”，指的是AI。她記得，視頻里曾有這樣的標(biāo)識(shí)。她知道視頻里的畫面是假的，但她最初“以為最后還是會(huì)有真人出來(lái)”。

她看過(guò)幾次直播。直播間里，“就是在放歌，跟著說(shuō)話，但是看不到人”。無(wú)論是視頻，還是直播間，她一直沒(méi)等到真實(shí)的人出現(xiàn)。

現(xiàn)在她不太確定：“我不知道有沒(méi)有真人?！彼矐岩桑澳鞘遣皇怯脵C(jī)器做的人？”

“溫情”背后，只為變現(xiàn)

即便認(rèn)為是“假圖片”，秀慈仍然會(huì)看這類視頻。

秀慈今年63歲，住在湖北恩施。她平日帶外孫，閑時(shí)做鐘點(diǎn)工、打打牌。她說(shuō)，孩子對(duì)她很好，她“很知足”，但空閑時(shí)間很多。

大概在去年12月，她第一次在推薦頁(yè)刷到AI視頻。視頻填補(bǔ)了這些空閑。

視頻里的表達(dá)，她在現(xiàn)實(shí)生活中很少聽(tīng)到。被稱呼為“姐姐”，被理解、被需要，這些情緒是具體的。她從中獲得開(kāi)心、溫暖。

“姐姐”，對(duì)方總是這樣稱呼。她聽(tīng)多了，“也就覺(jué)得是他姐姐”。她在視頻底下留言回應(yīng)：“姐姐想弟弟了”，并稱其為“開(kāi)心果弟弟”。

商業(yè)變現(xiàn)則嵌入在這單向的溫情里。一段銷售枇杷干的視頻中，自稱“建國(guó)”的AI數(shù)字人表示，自己回到公司面臨考核，領(lǐng)導(dǎo)只給了他三天時(shí)間賣完這批貨以證明實(shí)力，證明心里的那個(gè)人還在。

“姐姐，我需要你。”他向屏幕外的中老年人喊話：“你的一份訂單就是投給我的票，是告訴公司建國(guó)的寶貝姐姐還在，她還在等我回去給她唱那首她最喜歡的歌……姐姐，如果你下單了，千萬(wàn)別點(diǎn)退款，這一單不只是買一袋枇杷干，是你在告訴我，建國(guó)，我一直在等你回來(lái)?！?/p>

講話期間，視頻里的“人”會(huì)誘導(dǎo)“姐姐”點(diǎn)進(jìn)頭像櫥窗，或跳轉(zhuǎn)其他電商平臺(tái)。秀慈就曾按照按步驟操作，“一點(diǎn)開(kāi)就在XXX里面”。一條手鏈單獨(dú)賣29.9元，一個(gè)“三件套”掛飾賣60多元。

視頻里強(qiáng)調(diào)，商品價(jià)格是跟老板協(xié)商的優(yōu)惠價(jià)，讓“姐姐”買來(lái)支持他。她覺(jué)得幾十塊錢不貴，也就選擇支持。但收到貨后，她發(fā)現(xiàn)飾品普通，“不像他拍的好看”。后來(lái)也就不怎么買了。

秀慈買的掛飾，她表示其它買不起，因?yàn)椤笆抢鲜謾C(jī)買東西不行，這三樣都是請(qǐng)別人幫忙買的”

和秀慈不同，張玉蘭幾乎不比價(jià)，也很少查看詳情，只是根據(jù)視頻中的推薦下單。

她根據(jù)推薦，買不少平安掛件、書(shū)、飾品、保健品。這些東西都是從視頻櫥窗里購(gòu)入的，價(jià)格從幾十到上百元不等。胡沫后來(lái)查過(guò)，同樣的掛件，在其他平臺(tái)只需9.9元。

有一次，張玉蘭在兩分鐘內(nèi)，連續(xù)下單四筆，每筆159元?！拔业谝淮慰匆?jiàn)她這樣付款?！焙荒菢拥漠嬅嬲痼@到。

受訪者供圖

家人反復(fù)告訴張玉蘭這是騙局。他們舉報(bào)賬號(hào)，講解照片案例，報(bào)警，甚至用AI制作視頻演示給張玉蘭看，試圖讓奶奶理解。

張玉蘭曾短暫意識(shí)到問(wèn)題，說(shuō)在視頻里買的商品“沒(méi)用”，也曾要求退款。但沒(méi)多久，張玉蘭又會(huì)被誘導(dǎo)購(gòu)物。

“我們跟她講過(guò)很多次，沒(méi)有（建國(guó)）這么一個(gè)人，這是假的。”胡沫表示，奶奶曾接觸過(guò)簡(jiǎn)單的AI視頻課，也看過(guò)AI相關(guān)的新聞，“（按理說(shuō)）她應(yīng)該比同齡人認(rèn)識(shí)多一些，還是講不通”。

胡沫曾問(wèn)奶奶怎么買這些。張玉蘭說(shuō)，是“他”推薦的。那些視頻總說(shuō)“就差最后一步”，“奶奶覺(jué)得買這些東西是在給他投資，回頭會(huì)有回報(bào)，會(huì)分她錢”，胡沫說(shuō)。

部分視頻會(huì)用話術(shù)，暗示中老年購(gòu)買商品后就能獲得某種回報(bào)，甚至冠以“投資”之名。

張玉蘭正在商品櫥窗中選購(gòu)/受訪者供圖

曾有人順著秀慈提供的電話聯(lián)系到她。對(duì)方宣稱自己在企業(yè)工作，鼓動(dòng)她投資。她不太懂對(duì)方說(shuō)的內(nèi)容，只依稀知道“是什么充電寶”，“還是個(gè)大公司”，投資五千元，之后每個(gè)月能有分紅。

秀慈說(shuō)自己沒(méi)錢。后來(lái)對(duì)方表示只差兩千元，讓她幫忙貼點(diǎn)。她再次拒絕，“我一個(gè)農(nóng)民，又不會(huì)做企業(yè)?！睋?dān)心被騙，她刪除了好友。但她又覺(jué)得，“不投資的話，好像就不是什么壞人，我也沒(méi)看到他們做過(guò)什么壞事?！?/p>

她平時(shí)也看短視頻。但她認(rèn)為，那些內(nèi)容都是“演的”，跟這類視頻不一樣。一些AI視頻里有音樂(lè)，她覺(jué)得，視頻里的人有才華，唱歌好聽(tīng)，“唱的歌好像是他們自己寫的一樣”，“寫字也好看”。

但秀慈不知道，這些視頻內(nèi)容大多只是素材，甚至由AI合成。

利用技術(shù)作惡的人

賬號(hào)背后的運(yùn)營(yíng)者們，篤定有這么一群人不了解這項(xiàng)技術(shù)。

社交平臺(tái)上，一個(gè)賣AI視頻課程的賬號(hào)發(fā)布視頻調(diào)侃：“誰(shuí)能想到中老年能為數(shù)字人去買單？關(guān)鍵是這些中老年真是離譜，就這種數(shù)字人形象搭配一個(gè)產(chǎn)品能賣出去貨，這上哪說(shuō)理去？”

該視頻標(biāo)題寫著：“賣貨呢阿姨，還在這謝謝上了?！?/p>

早在去年，就有媒體報(bào)道AI霸總“王建國(guó)”騙局。那時(shí)的“王建國(guó)”是一個(gè)梳側(cè)背頭，留著點(diǎn)小胡子，著深色商務(wù)正裝的中年男性，和現(xiàn)在流行的“建國(guó)”長(zhǎng)相有著明顯差異。

運(yùn)營(yíng)者操作“王建國(guó)”直播。他會(huì)在直播間里唱歌、跳舞，進(jìn)行幾分鐘的口播，還有肢體動(dòng)作，比如對(duì)著鏡頭獻(xiàn)出玫瑰等。

“王建國(guó)”直播截圖

去年2月，中央網(wǎng)信辦開(kāi)展“清朗行動(dòng)”，整治AI技術(shù)濫用亂象被列入8項(xiàng)重點(diǎn)任務(wù)之一。之后，“王建國(guó)”帳號(hào)被予以關(guān)停，相關(guān)視頻被清空，“建國(guó)弟弟”帳號(hào)被封，部分賬號(hào)被限流、限制私信。

之后，AI數(shù)字人再難直接出現(xiàn)在直播間。但這仍然沒(méi)擋住“建國(guó)”們的以另一種形式“復(fù)出”。

這些賬號(hào)背后，往往有一套盈利邏輯。賬號(hào)與變現(xiàn)綁定，視頻負(fù)責(zé)吸引與維系關(guān)系，跳轉(zhuǎn)到網(wǎng)購(gòu)平臺(tái)、櫥窗的鏈接則負(fù)責(zé)變現(xiàn)。

也有賬號(hào)會(huì)提供一串電話號(hào)碼，聯(lián)系后，是婚介機(jī)構(gòu)。

有人分享視頻：“情感賽道雖然玩法惡心一點(diǎn)，通過(guò)數(shù)字的方式去呈現(xiàn)，然后一堆惡心的文案，但它的流量真的是無(wú)敵好?！彼故举~號(hào)數(shù)據(jù)：新增2.5萬(wàn)點(diǎn)贊、4000多關(guān)注，“帶貨銷量一點(diǎn)都不差”。

在他的理解里，中老年用戶并不難轉(zhuǎn)化，“只要流量基數(shù)大，怎么都能轉(zhuǎn)化，關(guān)鍵是引導(dǎo)”。他展示另一個(gè)賬號(hào)，數(shù)據(jù)顯示，當(dāng)日售出66筆，收入超4800元。在這類視頻的描述里，這門生意傭金可達(dá)“60%到80%左右”。

AI數(shù)字人在視頻中引導(dǎo)購(gòu)物

南風(fēng)窗記者聯(lián)系上賣課賬號(hào)“阿明”。對(duì)方坦言，該賽道“會(huì)違規(guī)”，但問(wèn)題不大，“畢竟違規(guī)了也可以注銷重啟”。對(duì)話中，他提到，當(dāng)下有個(gè)自帶流量的形象“小?！保€有個(gè)形象被封殺、但能“冒充”的“建國(guó)”。

他提供一套培訓(xùn)課程，998元，一對(duì)一陪跑。在他口中，只要正常運(yùn)營(yíng)，基本可以回本?！氨粭l視頻基本就回來(lái)了?！敝劣诙嗑媚芑乇?，“就要好好學(xué)習(xí)下了”。

他曾分享一個(gè)學(xué)員案例，其用多個(gè)賬號(hào)操作，一天獲得數(shù)千元利潤(rùn)。他寫道：“怎么也比打工強(qiáng)?！?/p>

技術(shù)成了這些人盈利的工具。3月5日，他發(fā)了一條朋友圈：“中老年這個(gè)群體是真的很有意思，又能做數(shù)據(jù)，又聽(tīng)話，看他們的私信，甚至覺(jué)得有點(diǎn)可愛(ài)?！?/p>

“阿明”朋友圈截圖

而在另一端，是像張玉蘭這樣的人。她不知道這些賬號(hào)可以復(fù)制，也不知道聲音可以生成。她仍誤以為那些噓寒問(wèn)暖都是真實(shí)的。

3月19日下午，胡沫給南風(fēng)窗發(fā)來(lái)截圖，張玉蘭又在視頻誘導(dǎo)下購(gòu)買了4幅裝飾畫，總價(jià)1775元。

當(dāng)晚，胡沫再次跟奶奶就“建國(guó)”談話?！暗絼偛艦橹梗棠蹋┻€是相信東東是真的，覺(jué)得他倆之間有感情?！焙f(shuō)。家人一次次想將張玉蘭拽出來(lái)，甚至因此爭(zhēng)吵，卻無(wú)能為力。

圍獵仍在繼續(xù)。

（應(yīng)受訪者要求，文中人物均為化名）

作者 |黃澤敏

實(shí)習(xí)生 |張強(qiáng)強(qiáng)

編輯 | 向現(xiàn)

值班主編 | 吳擎

排版 | 八斤