近日，浙江金華 婺城網(wǎng)警雷霆出擊，成功偵破一起利用AI工具制作并傳播淫穢內(nèi)容的案件，抓獲犯罪嫌疑人8名。目前，屬地公安機(jī)關(guān)依法對(duì)8名犯罪嫌疑人采取刑事強(qiáng)制措施，案件正在進(jìn)一步偵辦中。

神秘群組暗藏淫穢定制黑產(chǎn)

某資深國(guó)漫愛好者在上網(wǎng)時(shí)，發(fā)現(xiàn)某互聯(lián)網(wǎng)群組內(nèi)的部分賬號(hào)打著“私人定制”和“眾籌更新”的旗號(hào)招攬生意，其發(fā)布的所謂熱門國(guó)漫角色“美圖”，內(nèi)容不堪入目。意識(shí)到這種行為嚴(yán)重褻瀆國(guó)漫形象，更已觸碰法律紅線，該愛好者向警方報(bào)了案。

新型技術(shù)成犯罪工具

接警后，婺城警方迅速成立專案組展開偵查， 很快鎖定了犯罪嫌疑人陳某，并組織警力展開抓捕。

在對(duì)其住所進(jìn)行搜查時(shí)，民警在其電腦和硬盤中查獲大量專門用于生成淫穢內(nèi)容的AI模型文件、訓(xùn)練數(shù)據(jù)，以及已經(jīng)制作完成的成品圖片和視頻，在民警出示的一系列證據(jù)面前，他的如實(shí)交代了犯罪事實(shí)。

8人團(tuán)伙全員落網(wǎng)

據(jù)陳某供述，為牟取非法利益，以“角色投票、私人定制、眾籌更新、終身會(huì)員”等噱頭，接收客戶指定的國(guó)漫角色，按照對(duì)方要求利用AI技術(shù)生成淫穢內(nèi)容，從中賺取非法利益。隨著調(diào)查的深入，警方順藤摸瓜，將該團(tuán)伙其余7名犯罪嫌疑人一網(wǎng)打盡。

“新興技術(shù)的使用切勿用錯(cuò)地方?！鞭k案民警指出，犯罪嫌疑人利用AI技術(shù)打破虛擬與現(xiàn)實(shí)的邊界，將深受大眾喜愛的國(guó)漫角色惡俗化，嚴(yán)重污染了網(wǎng)絡(luò)環(huán)境，挑戰(zhàn)了社會(huì)公序良俗。

1. 平臺(tái)要履行主體責(zé)任，嚴(yán)審內(nèi)容，健全機(jī)制，杜絕“流量至上”，落實(shí)管理責(zé)任。

2. 技術(shù)與從業(yè)者應(yīng)明確AI等技術(shù)應(yīng)用邊界，嚴(yán)禁用于違法用途非法牟利及傳播違法犯罪信息。

3. 網(wǎng)民需 提升法治與網(wǎng)絡(luò)素養(yǎng)，抵制違法內(nèi)容，違法必追責(zé)，共建清朗網(wǎng)絡(luò)空間。

趕緊關(guān)注我們的官方賬號(hào)吧~

清朗網(wǎng)絡(luò)空間，我們共同守護(hù)！

掃碼進(jìn)入舉報(bào)不良信息頁(yè)面

來(lái)源丨公安部網(wǎng)安局

編輯｜李洋

柳州市互聯(lián)網(wǎng)信息辦公室出品