這次事件或?qū)?dǎo)致公眾對(duì)全人工審核的浪漫想象徹底破產(chǎn)，“AI對(duì)AI”的治理邏輯將被接受。

▲12月22日晚，眾多網(wǎng)友反映快手直播間出現(xiàn)大量色情內(nèi)容，包括播放淫穢影片、主播擦邊低俗表演等。圖/九派新聞

文 | 信海光

12月22日晚，快手平臺(tái)出現(xiàn)大量違規(guī)直播內(nèi)容，平臺(tái)隨后回應(yīng)稱系遭遇黑灰產(chǎn)攻擊，并已報(bào)警處理。

表面看，這是一次突發(fā)的內(nèi)容安全事故，但若將其放入更大的技術(shù)與產(chǎn)業(yè)背景中，則警示著，伴隨技術(shù)的迅速迭代，AI可能被用來(lái)“作惡”的一面開(kāi)始顯露，互聯(lián)網(wǎng)平臺(tái)的安全對(duì)抗邏輯也正在面臨重大轉(zhuǎn)變。

據(jù)媒體報(bào)道，此次黑灰產(chǎn)突襲發(fā)生在晚間22點(diǎn)左右，在快手平臺(tái)上，大量直播間在短時(shí)間內(nèi)被惡意注入色情、低俗等內(nèi)容。峰值時(shí)段約有1.7萬(wàn)個(gè)被控“僵尸賬號(hào)”同步開(kāi)播，形成刷屏效應(yīng)。涉事直播間觀看人數(shù)最高接近10萬(wàn)，評(píng)論區(qū)充斥著不堪入目的留言。

更嚴(yán)峻的是，此階段部分用戶舉報(bào)功能短暫失效，顯示黑灰產(chǎn)在投放違規(guī)內(nèi)容的同時(shí)，還對(duì)平臺(tái)處置通道實(shí)施了干擾。直到一小時(shí)后，平臺(tái)才基本清除違規(guī)內(nèi)容，將涉案賬號(hào)全部?jī)鼋Y(jié)。此事導(dǎo)致快手股價(jià)在次日產(chǎn)生劇烈波動(dòng)。

警惕“系統(tǒng)性風(fēng)險(xiǎn)”

回顧互聯(lián)網(wǎng)發(fā)展史，如此規(guī)模的惡意網(wǎng)絡(luò)攻擊事件實(shí)屬罕見(jiàn)，背后操縱者如此大張旗鼓，似乎并非只是為了盜取利益，而更像一次兇相畢露的“示威行動(dòng)”。這是國(guó)內(nèi)首次在頭部平臺(tái)上出現(xiàn)的由AI驅(qū)動(dòng)、自動(dòng)化、短時(shí)間爆發(fā)式的違規(guī)內(nèi)容攻擊事件。

在這次攻擊中，黑灰產(chǎn)不是依賴零散賬號(hào)、人工操作，而是通過(guò)自動(dòng)化工具批量注冊(cè)、控制賬號(hào)，在極短時(shí)間內(nèi)完成內(nèi)容生成、發(fā)布與擴(kuò)散。它突破了平臺(tái)的常規(guī)安防與監(jiān)管措施，造成了巨大的負(fù)面影響。

所謂道高一尺魔高一丈，自從有互聯(lián)網(wǎng)以來(lái)，網(wǎng)絡(luò)攻擊便隨之而生，而且攻擊手段的提升也與網(wǎng)絡(luò)技術(shù)的進(jìn)步高度同頻。

此次攻擊“自動(dòng)化”特征非常明顯：攻擊者借助自動(dòng)化工具批量注冊(cè)、操控僵尸號(hào)在同一時(shí)段集體開(kāi)播，實(shí)現(xiàn)違規(guī)內(nèi)容的秒級(jí)發(fā)布與擴(kuò)散，這種規(guī)?；敉耆鋈斯徍说膽?yīng)對(duì)極限，造成短時(shí)間內(nèi)的安全破防。某網(wǎng)絡(luò)安防企業(yè)對(duì)此評(píng)論稱，這是網(wǎng)絡(luò)黑灰產(chǎn)利用AI技術(shù)發(fā)動(dòng)的有組織、有預(yù)謀的攻擊，標(biāo)志著網(wǎng)絡(luò)攻擊已經(jīng)進(jìn)入全新的工業(yè)化階段。

目前尚無(wú)法得知攻擊者使用了什么樣的AI技術(shù)，但AI技術(shù)的使用本身，使這次事件的警示意義已經(jīng)超出了網(wǎng)絡(luò)安全層面。AI的崛起一直伴有擔(dān)憂與爭(zhēng)議，但大多數(shù)是情緒層面和宏觀層面，比如擔(dān)心AI未來(lái)會(huì)統(tǒng)治人類，AI取代人類工作等。

而在此次快手事件中，公眾并不太會(huì)因此突然擔(dān)心“AI有了自我意識(shí)”，卻會(huì)面對(duì)一種更現(xiàn)實(shí)，也更危險(xiǎn)的新現(xiàn)象：AI正在幫助把作惡行為變成低門(mén)檻、可復(fù)制、可規(guī)模化的事情。

在此之前，人們接觸的利用AI“作惡”主要是帶來(lái)個(gè)體風(fēng)險(xiǎn)和倫理風(fēng)險(xiǎn)，比如換臉、盜竊、假視頻、假直播、算法歧視、隱私侵犯、知識(shí)產(chǎn)權(quán)等，這些問(wèn)題雖然也很?chē)?yán)峻，但總歸是在短期可控之內(nèi)。

但在快手事件中，當(dāng)違規(guī)內(nèi)容在AI技術(shù)的操弄下像洪水一樣涌來(lái)，公眾感受到的不再是個(gè)別技術(shù)問(wèn)題，而是一種秩序被撕裂的失控感，目睹上萬(wàn)個(gè)賬號(hào)違規(guī)內(nèi)容的刷屏，就像圍觀一種網(wǎng)絡(luò)奇觀。

如果技術(shù)先進(jìn)的互聯(lián)網(wǎng)平臺(tái)企業(yè)都被攻破，那么未來(lái)，當(dāng)互聯(lián)網(wǎng)和AI成為社會(huì)基礎(chǔ)設(shè)施，更強(qiáng)大的攻擊是否會(huì)引發(fā)相應(yīng)的系統(tǒng)性風(fēng)險(xiǎn)？我們是否已經(jīng)有所準(zhǔn)備？

秉持“AI對(duì)AI”治理邏輯

此次事件警示，必須立即開(kāi)始直面AI技術(shù)正在成為新的放大器型風(fēng)險(xiǎn)源的可能。當(dāng)它被濫用時(shí)，誰(shuí)真正能按下剎車(chē)？

在以往公眾的認(rèn)知中，潛意識(shí)里對(duì)平臺(tái)企業(yè)有一種兜底性的信任存在，總以為平臺(tái)能夠通過(guò)技術(shù)手段以及人力監(jiān)管把潛在危害及時(shí)掐滅，但此次快手事件中平臺(tái)的“破防”揭示了另外一種可能。進(jìn)而引發(fā)一種擔(dān)心，如果平臺(tái)都扛不住，那普通社會(huì)系統(tǒng)呢？

無(wú)疑，此次事件的發(fā)生，各大平臺(tái)都被劇烈震撼，其在安全運(yùn)營(yíng)領(lǐng)域?qū)⑵毡槊媾R從單一防御向系統(tǒng)性治理轉(zhuǎn)變的新課題與新挑戰(zhàn)。但面對(duì)挑戰(zhàn)的，絕不僅僅是平臺(tái)企業(yè)，而是全社會(huì)。

AI作為技術(shù)大潮勢(shì)不可擋，這類事件的出現(xiàn)也勢(shì)所難免，而它一旦真的出現(xiàn)，不會(huì)導(dǎo)致社會(huì)否定AI，只會(huì)強(qiáng)化監(jiān)管共識(shí)的加強(qiáng)。以前很多監(jiān)管討論偏抽象，比如“AI向善”“算法透明”，今后則會(huì)逐漸走向?qū)崙?zhàn)，這實(shí)際上對(duì)監(jiān)管層提出了更高的要求。

平臺(tái)所肩負(fù)的責(zé)任也將升級(jí)，在大力宣揚(yáng)AI的同時(shí)，平臺(tái)也需證明自己能否駕馭AI，有沒(méi)有自動(dòng)化防御能力，是否有極端場(chǎng)景演練，是否設(shè)定熔斷、降級(jí)、止損機(jī)制？同時(shí)，這次事件或?qū)?dǎo)致公眾對(duì)全人工審核的浪漫想象徹底破產(chǎn)，“AI對(duì)AI”的治理邏輯將被接受。

快手事件雖然嚴(yán)重，但還沒(méi)到天塌下來(lái)的地步，它更像一個(gè)觸發(fā)器，引出一個(gè)未來(lái)已來(lái)的現(xiàn)實(shí)風(fēng)險(xiǎn)：如果作惡方未來(lái)進(jìn)化到工業(yè)化、自動(dòng)化、AI化，治理方是否做好了足夠的準(zhǔn)備呢？

撰稿 / 信海光（專欄作家）

編輯 / 遲道華

校對(duì) / 李立軍