12月18日，抖音發(fā)布公告稱，平臺(tái)持續(xù)深化涉未成年人治理舉措，嚴(yán)禁用戶通過任何渠道、以任何形式發(fā)布涉未成年人不良內(nèi)容。近一個(gè)月，針對(duì)涉未成年人的違規(guī)場景，平臺(tái)共清理相關(guān)違規(guī)內(nèi)容超20萬條，對(duì)超8000個(gè)賬號(hào)處以清理違規(guī)增長粉絲、限制商業(yè)變現(xiàn)功能、禁言、封禁等不同梯度的處罰。

抖音表示，近期平臺(tái)發(fā)現(xiàn)部分用戶利用AI技術(shù)升級(jí)違規(guī)手段，侵害未成年人合法權(quán)益，具體表現(xiàn)為：AI生成未成年人低俗擦邊形象“養(yǎng)號(hào)漲粉”；AI生成虛假的未成年人“賣慘”內(nèi)容，博取同情不當(dāng)牟利；AI惡意魔改經(jīng)典動(dòng)畫、動(dòng)漫和文學(xué)形象，炮制含有血腥、暴力、低俗等不良元素的“兒童邪典”內(nèi)容，危害未成年人身心健康。平臺(tái)已下架相關(guān)違規(guī)內(nèi)容，近一個(gè)月，對(duì)610個(gè)相關(guān)違規(guī)賬號(hào)全面禁言。

典型案例：

1、AI生成未成年人低俗擦邊內(nèi)容，39個(gè)賬號(hào)被全面禁言

“雪*象”“群**”等賬號(hào)多次發(fā)布由AI生成的、穿著暴露且刻意突出敏感部位的幼態(tài)化形象，營造低俗擦邊觀感，借此“養(yǎng)號(hào)漲粉”。平臺(tái)立即下架相關(guān)違規(guī)內(nèi)容，賬號(hào)因惡意違規(guī)已被無限期禁言。

2、AI生成未成年人賣慘內(nèi)容，180個(gè)賬號(hào)被全面禁言

“1*2”“7*9”等賬號(hào)批量發(fā)布利用AI生成的“早產(chǎn)嬰兒住院”“寒冬中未成年背負(fù)柴火哭泣”等內(nèi)容，刻意營造未成年人悲慘處境，并通過文案、話題標(biāo)簽等誘導(dǎo)用戶評(píng)論區(qū)互動(dòng)，以此吸粉引流。平臺(tái)已下架相關(guān)內(nèi)容，并對(duì)賬號(hào)處以清理違規(guī)粉絲、限制商業(yè)變現(xiàn)、禁言處罰。

3、AI炮制暴力“邪典動(dòng)畫”，391個(gè)賬號(hào)被全面禁言

“2*8”“1*g”等賬號(hào)打著“兒童動(dòng)畫”標(biāo)簽，用動(dòng)畫人物形象制作AI視頻，演繹殘害肢體等血腥暴力、低俗恐怖畫面，危害未成年人身心健康。平臺(tái)已下架相關(guān)違規(guī)內(nèi)容，并對(duì)賬號(hào)處以禁言處罰。

抖音表示，保護(hù)未成年人健康成長任重而道遠(yuǎn)，需要家庭、學(xué)校、行業(yè)等社會(huì)各界廣泛參與、協(xié)同努力。平臺(tái)將持續(xù)強(qiáng)化技術(shù)手段，提升審核能力，加強(qiáng)對(duì)涉未成年人不良內(nèi)容的全方位治理，與社會(huì)各界一道，共同筑牢未成年人網(wǎng)絡(luò)安全防線。