人工智能（AI）迅速發(fā)展，給生產(chǎn)生活帶來(lái)便利的同時(shí)，也被用于制作發(fā)布謠言、不實(shí)信息。今年以來(lái)，中央網(wǎng)信辦聚焦利用AI制作發(fā)布謠言、不實(shí)信息等亂象，開(kāi)展重點(diǎn)整治。各地認(rèn)真落實(shí)相關(guān)要求，切實(shí)規(guī)范網(wǎng)絡(luò)傳播秩序。現(xiàn)通報(bào)山西典型案例——

案例一：駢某利用AI生成虛假塌方事故視頻

12月12日，晉城市陽(yáng)城縣網(wǎng)信辦巡查發(fā)現(xiàn)，網(wǎng)民“靜沐※※”在抖音平臺(tái)發(fā)布視頻，宣稱(chēng)“山西晉城市析城山隧道發(fā)生塌方事故，截至12月8日已確認(rèn)5人遇難”。該信息引發(fā)關(guān)注，陽(yáng)城縣網(wǎng)信辦立即核查，通報(bào)陽(yáng)城縣交通運(yùn)輸局核查。

陽(yáng)城縣交通運(yùn)輸局核查反饋，視頻提及的時(shí)間、地點(diǎn)（析城山隧道）、事故畫(huà)面及具體內(nèi)容在陽(yáng)城縣轄區(qū)內(nèi)均查無(wú)實(shí)據(jù)，確認(rèn)為惡意炒作的虛假信息。陽(yáng)城縣網(wǎng)信辦第一時(shí)間固定相關(guān)證據(jù)，并將線(xiàn)索移交陽(yáng)城縣公安局立案調(diào)查。

經(jīng)查，違法行為人駢某（長(zhǎng)治籍）為博取流量、吸引眼球，于12月10日利用AI工具生成虛假事故文案，并借助AI技術(shù)制作虛假事故視頻。12月12日，駢某將視頻發(fā)布至抖音、快手等平臺(tái)，相關(guān)視頻在抖音平臺(tái)播放量累計(jì)達(dá)1.5萬(wàn)。

針對(duì)駢某散布虛假信息，造成不良社會(huì)影響，嚴(yán)重?cái)_亂公共秩序的違法事實(shí)，公安機(jī)關(guān)依據(jù)《中華人民共和國(guó)治安管理處罰法》，對(duì)駢某作出行政拘留十日的處罰。

晉城市公安機(jī)關(guān)對(duì)駢某執(zhí)行行政拘留。

案例二：吳某某利用AI生成地震謠言信息

近日，忻州市網(wǎng)信辦會(huì)同公安機(jī)關(guān)，依法處置一起利用AI技術(shù)生成并傳播地震謠言的案件。

12月13日17時(shí)20分，忻州市忻府區(qū)（北緯38.53度，東經(jīng)112.82度）發(fā)生3.4級(jí)地震，震源深度24千米。經(jīng)實(shí)地調(diào)查，本次地震未造成人員傷亡和財(cái)產(chǎn)損失，社會(huì)秩序正常。

同日19時(shí)許，忻州市網(wǎng)信辦工作發(fā)現(xiàn)，有自媒體賬號(hào)發(fā)布“突發(fā)！山西忻州遭遇6級(jí)地震，多地震感強(qiáng)烈，最新進(jìn)展、避險(xiǎn)提醒”等涉地震不實(shí)信息，其中包含利用AI技術(shù)制作的虛假災(zāi)情視頻，迅速在多個(gè)平臺(tái)傳播。忻州市網(wǎng)信辦立即固定證據(jù)、組織核查，確認(rèn)該信息為謠言，并第一時(shí)間將線(xiàn)索轉(zhuǎn)交公安機(jī)關(guān)。

公安機(jī)關(guān)查明，網(wǎng)民吳某某為博取關(guān)注、吸引流量，在明知視頻內(nèi)容為AI生成、信息不實(shí)的情況下，仍通過(guò)自媒體平臺(tái)散布虛假地震信息，引發(fā)社會(huì)關(guān)注，擾亂公共秩序。吳某某行為違反《中華人民共和國(guó)治安管理處罰法》，公安機(jī)關(guān)依法對(duì)其行政拘留三天。

吳某某表示，已深刻認(rèn)識(shí)到自身行為的違法性和社會(huì)危害，承諾今后將嚴(yán)格遵守法律法規(guī)，不造謠、不傳謠，自覺(jué)維護(hù)清朗網(wǎng)絡(luò)環(huán)境。

忻州市公安機(jī)關(guān)依法審訊吳某某。

普法小課堂

《中華人民共和國(guó)治安管理處罰法》（2025年6月27日第十四屆全國(guó)人民代表大會(huì)常務(wù)委員會(huì)第十六次會(huì)議修訂，自2026年1月1日起施行）

第二十九條有下列行為之一的，處五日以上十日以下拘留，可以并處一千元以下罰款；情節(jié)較輕的，處五日以下拘留或者一千元以下罰款：

（一）故意散布謠言，謊報(bào)險(xiǎn)情、疫情、災(zāi)情、警情或者以其他方法故意擾亂公共秩序的；

（二）投放虛假的爆炸性、毒害性、放射性、腐蝕性物質(zhì)或者傳染病病原體等危險(xiǎn)物質(zhì)擾亂公共秩序的；

（三）揚(yáng)言實(shí)施放火、爆炸、投放危險(xiǎn)物質(zhì)等危害公共安全犯罪行為擾亂公共秩序的。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》

第六條任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。

第二十二條 深度合成服務(wù)提供者和技術(shù)支持者違反本規(guī)定的，依照有關(guān)法律、行政法規(guī)的規(guī)定處罰；造成嚴(yán)重后果的，依法從重處罰。

構(gòu)成違反治安管理行為的，由公安機(jī)關(guān)依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

來(lái)源：中央網(wǎng)信辦舉報(bào)中心