“門(mén)口有個(gè)流浪漢，說(shuō)認(rèn)識(shí)你，我讓他進(jìn)來(lái)了?！?當(dāng) TikTok 博主喬?梅爾（Joe Mele）把 AI 生成的流浪漢圖像發(fā)給父親時(shí)，他沒(méi)料到這個(gè) “玩笑” 會(huì)引發(fā)連鎖反應(yīng)，父親連續(xù)撥打 7 通未接電話，在看到流浪漢 “用自己牙刷刷牙”“躺床上休息” 的后續(xù)圖像后徹底崩潰。

這條視頻最終獲得超 1040 萬(wàn)次觀看，更意外點(diǎn)燃了全球范圍內(nèi)的 AI 整蠱狂歡。從國(guó)內(nèi)青少年用 AI 生成流浪漢闖家圖像嚇父母，到上班族制作 “流浪漢進(jìn)公司” 惡搞同事，看似無(wú)傷大雅的娛樂(lè)背后，正浮現(xiàn)出技術(shù)濫用的深層危機(jī)。

AI流浪漢如何風(fēng)靡全球

這場(chǎng) AI 整蠱浪潮的起點(diǎn)清晰可溯。最近Ticktok創(chuàng)作者喬?梅爾使用谷歌 Gemini AI，僅用簡(jiǎn)單指令就在自家室內(nèi)照片中添加了流浪漢形象，一系列 “惡作劇” 互動(dòng)視頻迅速引爆 TikTok。谷歌新推出的 Nano Banana AI 工具將創(chuàng)作流程簡(jiǎn)化至 “一鍵生成”, 只需上傳一張環(huán)境照片，輸入 “添加無(wú)家可歸者” 的文字指令，AI 就能在幾秒內(nèi)生成以假亂真的圖像。

這種低門(mén)檻創(chuàng)作模式迅速跨越國(guó)界，在國(guó)內(nèi)社交平臺(tái)形成復(fù)制熱潮。抖音上的博主將整蠱升級(jí)為視頻形式，生成流浪漢用父親毛巾擦臉、在家里休息的動(dòng)態(tài)內(nèi)容，盡管視頻中出現(xiàn) “四換人臉、穿插外國(guó)人” 的明顯破綻，但仍成功引發(fā)長(zhǎng)輩恐慌。更有網(wǎng)友將場(chǎng)景轉(zhuǎn)移到職場(chǎng)，用 AI 制作 “流浪漢在辦公區(qū)溜達(dá)” 的圖片測(cè)試同事反應(yīng)。

截至到10 月，此類 “AI 流浪漢整蠱” 視頻在抖音、快手等平臺(tái)的相關(guān)話題播放量累計(jì)突破 5 億次，大量 “一鍵生成流浪漢特效” 教程點(diǎn)贊量超 40 萬(wàn)，評(píng)論區(qū)滿是 “求教程”“已試過(guò)，把父母嚇著了的” 的互動(dòng)留言。

這種傳播熱度并非個(gè)例，從 TikTok 上爆火的 “后院蹦床萌兔” 偽視頻，到國(guó)內(nèi)被官方賬號(hào)誤轉(zhuǎn)的 “監(jiān)控視角狗狗救小孩” 短片，AI 生成內(nèi)容正憑借 “真實(shí)感 + 情緒化” 的雙重特質(zhì)，成為新的流量密碼。

01

濫用AI生成視頻造成法律與倫理雙重傷害

當(dāng)用戶沉浸在整蠱的快感中時(shí)，法律風(fēng)險(xiǎn)已悄然滋生。今年10 月，四川會(huì)理市公安局接到居民王女士報(bào)警，稱 “流浪漢闖入家中危及獨(dú)自在家的孩子”，民警緊急出警后發(fā)現(xiàn)，竟是孩子用 AI 工具制作的惡作劇。這種情況并非個(gè)例，多地警方反映，類似虛假報(bào)警已占用大量警力資源。

知名律師周兆成指出，此類行為已觸碰法律紅線。根據(jù)《中華人民共和國(guó)治安管理處罰法》，明知可能引發(fā)誤報(bào)仍故意傳播 AI 偽信息，可被處 5-10 日拘留及 500 元罰款；若視頻擴(kuò)散引發(fā)社會(huì)恐慌，則可能觸犯《刑法》“編造虛假信息罪”，最高可判 5 年以上有期徒刑。

2024 年南京玄武區(qū)的 “AI 換臉盜刷案” 更敲響警鐘：犯罪嫌疑人符某利用 AI 生成動(dòng)態(tài)人臉視頻，突破 23 名被害人的支付賬戶人臉識(shí)別防線，最終以侵犯公民個(gè)人信息罪、信用卡詐騙罪數(shù)罪并罰，獲刑 4 年 6 個(gè)月。

比法律風(fēng)險(xiǎn)更隱蔽的是倫理層面的侵蝕。西南政法大學(xué)校長(zhǎng)林維在中歐人權(quán)研討會(huì)上強(qiáng)調(diào)：“技術(shù)的最終目的是服務(wù)于人，而不是削弱個(gè)體的主權(quán)與自由?！盇I 整蠱狂歡中，最突出的倫理問(wèn)題是對(duì)弱勢(shì)群體的 “去人格化” 傷害 ，將流浪者形象異化為娛樂(lè)素材，實(shí)質(zhì)是強(qiáng)化 “弱勢(shì)群體 = 危險(xiǎn)符號(hào)” 的刻板印象，削弱公眾對(duì)社會(huì)救助議題的同理心。

這種傷害正在蔓延，例如網(wǎng)絡(luò)上出現(xiàn) AI 仿冒奧運(yùn)冠軍全紅嬋等聲音賣土雞蛋的亂象，歷史博主用 AI 生成 “偽歷史” 視頻歪曲史實(shí)，甚至有營(yíng)銷號(hào)制作 “災(zāi)難現(xiàn)場(chǎng)” 虛假視頻博取關(guān)注。

更令人擔(dān)憂的是技術(shù)對(duì)認(rèn)知體系的沖擊。根據(jù)CNNIC的 數(shù)據(jù)顯示，截至 2024 年底我國(guó)生成式 AI 用戶達(dá) 2.49 億人，有92% 的創(chuàng)作者都在使用 AI 工具，越來(lái)越多人陷入認(rèn)知困惑：“過(guò)去覺(jué)得識(shí)別不了 AI 假視頻是老年人的事，年輕一代發(fā)現(xiàn)自己也常被騙，有些時(shí)候根本無(wú)法分清是否是AI生成視頻。”

02

AI偽視頻泛濫原因

技術(shù)易得性與偏好算法

生成式 AI 的 “平民化” 進(jìn)程正在加速，截至 2024 年底，我國(guó)已有 302 款生成式 AI 服務(wù)完成備案，核心產(chǎn)業(yè)規(guī)模近 6000 億元，從豆包到百度文心一格，各類工具已實(shí)現(xiàn) “零門(mén)檻使用”。這種易得性讓青少年成為主要使用者，而他們對(duì)技術(shù)風(fēng)險(xiǎn)的認(rèn)知不足，進(jìn)一步助推了濫用行為。

平臺(tái)算法的商業(yè)邏輯則起到了 “放大器” 作用。短視頻平臺(tái)的推薦機(jī)制對(duì) “情緒化內(nèi)容” 存在天然偏好，AI 整蠱視頻中 “父母驚慌失措”“同事暴怒” 等畫(huà)面，恰好符合 “高互動(dòng)率” 的算法指標(biāo)，從而獲得流量?jī)A斜。這種機(jī)制形成惡性循環(huán)，越刺激的內(nèi)容越易傳播，創(chuàng)作者越傾向于制作此類內(nèi)容，最終導(dǎo)致濫用行為常態(tài)化。

同時(shí)認(rèn)知鴻溝的存在讓危機(jī)進(jìn)一步加劇。中老年群體成為 AI 偽信息的主要受害者，他們既缺乏對(duì) AI 技術(shù)的基本認(rèn)知，又習(xí)慣以 “視覺(jué)真實(shí)” 判斷信息真?zhèn)危@使得他們有時(shí)候在面對(duì) “帶監(jiān)控時(shí)間戳” 的 AI 視頻時(shí)，幾乎沒(méi)有辨別能力。而年輕人群體雖熟悉技術(shù)，卻常因 “追求趣味”“博取關(guān)注” 的心態(tài)忽視風(fēng)險(xiǎn)，形成 “制作者” 與 “受害者” 的代際錯(cuò)位。

03

如何辨別AI生成視頻

面對(duì) AI 濫用的挑戰(zhàn)，掌握基礎(chǔ)的辨別技巧至關(guān)重要。AI 生成內(nèi)容即便再逼真，仍會(huì)留下技術(shù)痕跡，例如圖像中常出現(xiàn)手指數(shù)量異常、光影與環(huán)境脫節(jié)等問(wèn)題，視頻則容易出現(xiàn) “穿模”“物體突變” 等破綻。當(dāng)遇到可疑內(nèi)容時(shí)，可通過(guò) “反向圖片搜索”“檢查元數(shù)據(jù)” 等方式驗(yàn)證。

平臺(tái)作為內(nèi)容傳播的關(guān)鍵環(huán)節(jié)，亟需承擔(dān)起主體責(zé)任。目前，YouTube 已推出 AI 生成內(nèi)容標(biāo)注功能，要求創(chuàng)作者明確標(biāo)識(shí)虛擬內(nèi)容；

目前許多平臺(tái)開(kāi)啟內(nèi)容標(biāo)注功能，要求創(chuàng)作者明確標(biāo)識(shí)虛擬內(nèi)容，例如抖音、快手等平臺(tái)也在試點(diǎn) “AI 內(nèi)容溯源碼”，用戶掃碼即可查看內(nèi)容生成信息。并優(yōu)化算法推薦邏輯，減少情緒化虛假內(nèi)容的流量?jī)A斜。

長(zhǎng)遠(yuǎn)來(lái)看，認(rèn)知升級(jí)才是根本解決方案。2025 年中歐人權(quán)研討會(huì)達(dá)成的共識(shí)更具啟示：“算法不能替代尊嚴(yán)，發(fā)展不能為不平等辯護(hù)。” 這要求我們?cè)趽肀Ъ夹g(shù)進(jìn)步的同時(shí)，始終堅(jiān)守 “以人為本” 的底線，當(dāng) AI 工具被用于尊重與創(chuàng)造，它能成為連接古今的橋梁；當(dāng)被用于戲謔與欺騙，便會(huì)淪為撕裂社會(huì)的利器。

在這個(gè)流浪漢的整蠱視頻下，有一條評(píng)論引人深思：“第一次看覺(jué)得好笑，第二次想到我媽媽也會(huì)被騙，突然笑不出來(lái)了?！?技術(shù)的溫度從來(lái)不是由參數(shù)決定的，而是由使用者的選擇定義的。當(dāng) AI 流浪者的形象不再被用于整蠱，當(dāng)虛擬內(nèi)容都帶著可追溯的標(biāo)識(shí)，技術(shù)才能真正成為服務(wù)人類的工具，而非制造恐慌的 “狼”。這既需要法律的剛性約束，更需要每個(gè)使用者的理性自覺(jué)。

微信訂閱

歡迎郵局訂閱2026年《電腦報(bào)》

訂閱代號(hào)：77-19

全年訂價(jià)：400.00元 零售單價(jià)：8元

郵局服務(wù)熱線：11185

編輯｜張毅

主編｜黎坤

總編輯｜吳新

爆料聯(lián)系：cpcfan1874（微信）

壹零社：用圖文、視頻記錄科技互聯(lián)網(wǎng)新鮮事、電商生活、云計(jì)算、ICT領(lǐng)域、消費(fèi)電子，商業(yè)故事?！吨袊?guó)知網(wǎng)》每周全文收錄；中國(guó)科技報(bào)刊100強(qiáng)；2021年微博百萬(wàn)粉絲俱樂(lè)部成員；2022年抖音優(yōu)質(zhì)科技內(nèi)容創(chuàng)作者