這兩天

視頻大模型Seedance2.0

在國(guó)內(nèi)外社交平臺(tái)上

掀起一陣刷屏式傳播

各種腦洞大開的畫面刷屏

引發(fā)熱議與思考

Seedance 2.0畫面。圖片來(lái)源：錦觀新聞

有網(wǎng)友第一時(shí)間就提出

亂套了，真假難辨

對(duì)于部分不添加AI標(biāo)識(shí)

誤導(dǎo)公眾的視頻

官方已經(jīng)出手！

13421個(gè)賬號(hào)被處置！

據(jù)"網(wǎng)信中國(guó)”消息，近期，部分網(wǎng)絡(luò)賬號(hào)發(fā)布AI生成合成信息時(shí)，不添加AI標(biāo)識(shí)，存在利用虛假不實(shí)內(nèi)容欺騙誤導(dǎo)公眾的問題，破壞網(wǎng)絡(luò)生態(tài)，造成惡劣影響。網(wǎng)信部門督促網(wǎng)站平臺(tái)深入排查整治，依法依約處置賬號(hào)13421個(gè)，清理違法違規(guī)信息54.3萬(wàn)余條?，F(xiàn)將部分典型案例通報(bào)如下：

一、微博賬號(hào)“澄馫”、快手賬號(hào)“玲子愛狗狗”、嗶哩嗶哩賬號(hào)“空空說電影”等，發(fā)布狗在高鐵站救下嬰兒、狗拆炸彈救人、鱷魚傷人等視頻時(shí)，未添加AI生成標(biāo)識(shí)，借虛構(gòu)感人故事、獵奇事件惡意博取流量。相關(guān)賬號(hào)已被依法依約處置。

二、微信賬號(hào)“浮萍9419”、微博賬號(hào)“乘風(fēng)已歸來(lái)”、快手賬號(hào)“東東情感”等，以AI換臉、聲音克隆等方式，假冒運(yùn)動(dòng)員、演員、主持人、企業(yè)家等公眾人物，發(fā)布不實(shí)言論，借此吸粉引流，或未經(jīng)授權(quán)，售賣AI生成的公眾人物“送祝?！薄鞍菽辍钡纫曨l，從中不當(dāng)牟利。相關(guān)賬號(hào)已被依法依約處置。

三、抖音賬號(hào)“巷子里的魚”“禾粟”、快手賬號(hào)“朵姐正能量”“小豬豬”等，發(fā)布AI生成的虛假火災(zāi)現(xiàn)場(chǎng)圖片、視頻，惡意編造、炒作火災(zāi)事故，混淆視聽，擾亂公共秩序。相關(guān)賬號(hào)已被依法依約處置。

四、嗶哩嗶哩賬號(hào)“真難我知道”、抖音賬號(hào)“小奧特曼大智慧”、百度賬號(hào)“清崽影視”等，借AI魔改未成年人喜愛的動(dòng)畫角色，制作刀切小馬寶莉頭部、奧特曼懷孕等視頻，傳播低俗驚悚、血腥暴力內(nèi)容，宣揚(yáng)不良價(jià)值觀，侵?jǐn)_未成年人身心健康。相關(guān)賬號(hào)已被依法依約處置。

五、小紅書賬號(hào)“浪淘達(dá)人”“南坤的店”等，發(fā)布“豆包圖片去水印神器”等內(nèi)容，分享去除AI標(biāo)識(shí)教程、軟件，淘寶、閑魚、拼多多店鋪“浙江智意AI”“鼎建祥旗艦店”等，售賣去AI標(biāo)識(shí)教程、軟件及服務(wù)。相關(guān)賬號(hào)已被依法依約處置，違規(guī)商品已下架。

下一步，網(wǎng)信部門將對(duì)無(wú)AI標(biāo)識(shí)的虛假不實(shí)信息保持高壓嚴(yán)管態(tài)勢(shì)，發(fā)現(xiàn)即處置，嚴(yán)厲打擊違規(guī)行為。同時(shí)，也呼吁廣大網(wǎng)絡(luò)內(nèi)容創(chuàng)作者按照相關(guān)規(guī)定主動(dòng)添加AI標(biāo)識(shí)，避免誤導(dǎo)公眾，共同營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境。

上海即日起開始嚴(yán)格整治

為切實(shí)維護(hù)企業(yè)網(wǎng)絡(luò)合法權(quán)益

嚴(yán)打AI涉企謠言

上海市委網(wǎng)信辦

會(huì)同市公安局網(wǎng)安總隊(duì)

即日起集中開展

“整治AI涉企虛假不實(shí)信息”專項(xiàng)行動(dòng)

本次專項(xiàng)行動(dòng)重點(diǎn)聚焦利用AI技術(shù)生成傳播涉企虛假不實(shí)信息，誤導(dǎo)公眾認(rèn)知、影響企業(yè)形象聲譽(yù)、抹黑攻擊競(jìng)爭(zhēng)對(duì)手等問題，由市委網(wǎng)信辦、市公安局網(wǎng)安總隊(duì)聯(lián)合推進(jìn)，將加強(qiáng)典型案例打擊處置，斬?cái)嗬肁I技術(shù)不當(dāng)牟利的利益鏈條，力爭(zhēng)達(dá)到“標(biāo)本兼治、打防結(jié)合、凈化生態(tài)”的整治效果。

為建立健全長(zhǎng)效機(jī)制，市委網(wǎng)信辦將持續(xù)督促屬地AI應(yīng)用程序和傳播平臺(tái)切實(shí)履行主體責(zé)任，完善技術(shù)識(shí)別和人工復(fù)核機(jī)制，暢通用戶投訴舉報(bào)渠道，對(duì)利用AI生成“同質(zhì)化”不實(shí)信息、違規(guī)“養(yǎng)號(hào)”等行為強(qiáng)化審核處置；對(duì)AI批量制作、低質(zhì)搬運(yùn)、無(wú)來(lái)源虛構(gòu)等“數(shù)字泔水”垃圾內(nèi)容探索有效治理措施。

市委網(wǎng)信辦相關(guān)負(fù)責(zé)人表示，AI技術(shù)在賦能經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，也面臨技術(shù)濫用、虛假信息傳播加劇等問題。當(dāng)前，整治AI涉企謠言問題對(duì)營(yíng)造公平有序的營(yíng)商環(huán)境具有重要意義。市委網(wǎng)信辦將會(huì)同相關(guān)部門對(duì)專項(xiàng)整治期間屢教不改、頂風(fēng)違規(guī)、情節(jié)嚴(yán)重的網(wǎng)站平臺(tái)和賬號(hào)，依法依規(guī)從嚴(yán)查處，切實(shí)規(guī)范涉企網(wǎng)絡(luò)信息傳播秩序。

北京查處首例AI虛假?gòu)V告案

2025年10月

北京市場(chǎng)監(jiān)管部門查處了

首例利用AI技術(shù)進(jìn)行虛假?gòu)V告宣傳的案件

今年2月份，北京市海淀區(qū)市場(chǎng)監(jiān)管局接到消費(fèi)者舉報(bào)，反映北京某公司通過視頻賬號(hào)宣傳所銷售的“深海多烯魚油”能夠治療多種疾病，涉嫌虛假宣傳。

通過舉報(bào)人提供的視頻鏈接，辦案人員打開該企業(yè)直播間，在這個(gè)擁有88萬(wàn)粉絲的賬號(hào)直播間展板上，顯著標(biāo)注著“適合頭暈頭痛、手麻腳麻、記憶下降人群”等醫(yī)療用語(yǔ)；直播中還出現(xiàn)了中央廣播電視總臺(tái)主持人李梓萌的形象。

經(jīng)過立案調(diào)查，辦案人員發(fā)現(xiàn)，該公司銷售的深海多烯魚油產(chǎn)品，實(shí)際執(zhí)行標(biāo)準(zhǔn)為糖果，屬于普通食品，不具備疾病治療功能。另一方面，經(jīng)鑒定，視頻中的主持人形象完全是利用AI技術(shù)偽造生成。

在這里提醒大家

在網(wǎng)絡(luò)上發(fā)布AI相關(guān)內(nèi)容時(shí)

一定要做好標(biāo)注

切不可誤導(dǎo)公眾認(rèn)知

來(lái)源｜網(wǎng)絡(luò)、新聞坊、網(wǎng)信中國(guó)、網(wǎng)信上海、央視財(cái)經(jīng)