據(jù)@抖音黑板報(bào)，近期平臺(tái)發(fā)現(xiàn)部分違規(guī)用戶通過(guò) AI 生成“單親媽媽曖昧互動(dòng)”“美女魅惑舞蹈”“著裝暴露的海濱度假照”等低俗擦邊內(nèi)容，違反《抖音社區(qū)自律公約》平臺(tái)規(guī)則，平臺(tái)堅(jiān)持從嚴(yán)從重處置。今年以來(lái)，針對(duì)AI生成色情低俗類違規(guī)，已處置4.2萬(wàn)條內(nèi)容，對(duì)1.4萬(wàn)個(gè)賬號(hào)處以限制推薦、禁言、封禁等不同梯度的處罰。

此外，利用色情低俗信息為色情網(wǎng)站導(dǎo)流、售賣淫穢色情物品等行為，違反《中華人民共和國(guó)刑法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等相關(guān)法律法規(guī)，涉嫌非法利用信息網(wǎng)絡(luò)罪、傳播淫穢物品罪。對(duì)以上違法行為抖音將主動(dòng)上報(bào)公安機(jī)關(guān)。

典型案例1：利用AI生成圖片塑造“單親媽媽陪讀”人設(shè)進(jìn)行色情導(dǎo)流，黑產(chǎn)團(tuán)伙4人被刑拘

平臺(tái)巡查發(fā)現(xiàn)，一批賬號(hào)利用AI生成“單親媽媽陪讀”人設(shè)的內(nèi)容，通過(guò)發(fā)布性感擦邊視頻并配以性暗示文案，誘導(dǎo)用戶關(guān)注。平臺(tái)經(jīng)深度研判與線索挖掘，發(fā)現(xiàn)背后疑似有黑產(chǎn)團(tuán)伙操控，該團(tuán)伙通過(guò)賬號(hào)簽名、群聊等方式，誘導(dǎo)用戶跳轉(zhuǎn)至第三方平臺(tái)下載色情低俗 App。平臺(tái)立即清理違規(guī)內(nèi)容、無(wú)限期封禁相關(guān)賬號(hào)，并收集線索上報(bào)至公安機(jī)關(guān)。最終，該黑產(chǎn)團(tuán)伙4人被依法刑事拘留。

典型案例2：利用AI生成美女圖片引導(dǎo)用戶至收藏頁(yè)進(jìn)行色情導(dǎo)流，339個(gè)賬號(hào)被處置

用戶“AI**說(shuō)”“一**北”“冰**式”等用戶，通過(guò)將直播間封面設(shè)置為AI生成美女圖片，但在頭像圖片中配“看我收藏”等字樣，引導(dǎo)觀眾查看其主頁(yè)收藏，進(jìn)而為色情網(wǎng)站導(dǎo)流。平臺(tái)已清理相關(guān)違規(guī)內(nèi)容，并對(duì)相關(guān)賬號(hào)無(wú)限期回收直播權(quán)限。

典型案例3：持續(xù)發(fā)布AI生成著裝暴露的擦邊內(nèi)容，8421個(gè)賬號(hào)被處置

用戶“奇**藍(lán)”“一**差”利用AI生成著裝暴露的女性形象，持續(xù)發(fā)布高空劈叉、魅惑舞蹈等動(dòng)作；用戶“哦**哦”“j**g”持續(xù)發(fā)布多條AI生成聚焦私密部位的女性“泳池度假照”“海濱度假照”擦邊信息。平臺(tái)已清理相關(guān)違規(guī)內(nèi)容，并對(duì)相關(guān)賬號(hào)采取限制推薦、禁言、封禁等梯度處罰。

抖音將不斷升級(jí)治理技術(shù)和治理手段，提升對(duì)利用AI技術(shù)生成不良內(nèi)容的發(fā)現(xiàn)、識(shí)別和處置能力。抖音也在此提醒廣大創(chuàng)作者及用戶，自覺(jué)遵守法律法規(guī)及平臺(tái)規(guī)則，與平臺(tái)共同抵制各類色情低俗、違規(guī)導(dǎo)流行為，維護(hù)健康的網(wǎng)絡(luò)環(huán)境。如發(fā)現(xiàn)相關(guān)違規(guī)內(nèi)容可撥打抖音官方服務(wù)熱線95152，或發(fā)送至舉報(bào)郵箱 feedback@douyin.com，抖音將及時(shí)跟進(jìn)處理。

來(lái)源/抖音黑板報(bào)微信

本文源自：經(jīng)濟(jì)日?qǐng)?bào)