這次事件或將導致公眾對全人工審核的浪漫想象徹底破產(chǎn)，“AI對AI”的治理邏輯將被接受。

▲12月22日晚，眾多網(wǎng)友反映快手直播間出現(xiàn)大量色情內(nèi)容，包括播放淫穢影片、主播擦邊低俗表演等。圖/九派新聞

|信海光

12月22日晚，快手平臺出現(xiàn)大量違規(guī)直播內(nèi)容，平臺隨后回應稱系遭遇黑灰產(chǎn)攻擊，并已報警處理。

表面看，這是一次突發(fā)的內(nèi)容安全事故，但若將其放入更大的技術與產(chǎn)業(yè)背景中，則警示著，伴隨技術的迅速迭代，AI可能被用來“作惡”的一面開始顯露，互聯(lián)網(wǎng)平臺的安全對抗邏輯也正在面臨重大轉變。

據(jù)媒體報道，此次黑灰產(chǎn)突襲發(fā)生在晚間22點左右，在快手平臺上，大量直播間在短時間內(nèi)被惡意注入色情、低俗等內(nèi)容。峰值時段約有1.7萬個被控“僵尸賬號”同步開播，形成刷屏效應。涉事直播間觀看人數(shù)最高接近10萬，評論區(qū)充斥著不堪入目的留言。

更嚴峻的是，此階段部分用戶舉報功能短暫失效，顯示黑灰產(chǎn)在投放違規(guī)內(nèi)容的同時，還對平臺處置通道實施了干擾。直到一小時后，平臺才基本清除違規(guī)內(nèi)容，將涉案賬號全部凍結。此事導致快手股價在次日產(chǎn)生劇烈波動。

警惕“系統(tǒng)性風險”

回顧互聯(lián)網(wǎng)發(fā)展史，如此規(guī)模的惡意網(wǎng)絡攻擊事件實屬罕見，背后操縱者如此大張旗鼓，似乎并非只是為了盜取利益，而更像一次兇相畢露的“示威行動”。這是國內(nèi)首次在頭部平臺上出現(xiàn)的由AI驅動、自動化、短時間爆發(fā)式的違規(guī)內(nèi)容攻擊事件。

在這次攻擊中，黑灰產(chǎn)不是依賴零散賬號、人工操作，而是通過自動化工具批量注冊、控制賬號，在極短時間內(nèi)完成內(nèi)容生成、發(fā)布與擴散。它突破了平臺的常規(guī)安防與監(jiān)管措施，造成了巨大的負面影響。

所謂道高一尺魔高一丈，自從有互聯(lián)網(wǎng)以來，網(wǎng)絡攻擊便隨之而生，而且攻擊手段的提升也與網(wǎng)絡技術的進步高度同頻。

此次攻擊“自動化”特征非常明顯：攻擊者借助自動化工具批量注冊、操控僵尸號在同一時段集體開播，實現(xiàn)違規(guī)內(nèi)容的秒級發(fā)布與擴散，這種規(guī)?；敉耆鋈斯徍说膽獙O限，造成短時間內(nèi)的安全破防。某網(wǎng)絡安防企業(yè)對此評論稱，這是網(wǎng)絡黑灰產(chǎn)利用AI技術發(fā)動的有組織、有預謀的攻擊，標志著網(wǎng)絡攻擊已經(jīng)進入全新的工業(yè)化階段。

目前尚無法得知攻擊者使用了什么樣的AI技術，但AI技術的使用本身，使這次事件的警示意義已經(jīng)超出了網(wǎng)絡安全層面。AI的崛起一直伴有擔憂與爭議，但大多數(shù)是情緒層面和宏觀層面，比如擔心AI未來會統(tǒng)治人類，AI取代人類工作等。

而在此次快手事件中，公眾并不太會因此突然擔心“AI有了自我意識”，卻會面對一種更現(xiàn)實，也更危險的新現(xiàn)象：AI正在幫助把作惡行為變成低門檻、可復制、可規(guī)?；氖虑?。

在此之前，人們接觸的利用AI“作惡”主要是帶來個體風險和倫理風險，比如換臉、盜竊、假視頻、假直播、算法歧視、隱私侵犯、知識產(chǎn)權等，這些問題雖然也很嚴峻，但總歸是在短期可控之內(nèi)。

但在快手事件中，當違規(guī)內(nèi)容在AI技術的操弄下像洪水一樣涌來，公眾感受到的不再是個別技術問題，而是一種秩序被撕裂的失控感，目睹上萬個賬號違規(guī)內(nèi)容的刷屏，就像圍觀一種網(wǎng)絡奇觀。

如果技術先進的互聯(lián)網(wǎng)平臺企業(yè)都被攻破，那么未來，當互聯(lián)網(wǎng)和AI成為社會基礎設施，更強大的攻擊是否會引發(fā)相應的系統(tǒng)性風險？我們是否已經(jīng)有所準備？

秉持“AI對AI”治理邏輯

此次事件警示，必須立即開始直面AI技術正在成為新的放大器型風險源的可能。當它被濫用時，誰真正能按下剎車？

在以往公眾的認知中，潛意識里對平臺企業(yè)有一種兜底性的信任存在，總以為平臺能夠通過技術手段以及人力監(jiān)管把潛在危害及時掐滅，但此次快手事件中平臺的“破防”揭示了另外一種可能。進而引發(fā)一種擔心，如果平臺都扛不住，那普通社會系統(tǒng)呢？

無疑，此次事件的發(fā)生，各大平臺都被劇烈震撼，其在安全運營領域將普遍面臨從單一防御向系統(tǒng)性治理轉變的新課題與新挑戰(zhàn)。但面對挑戰(zhàn)的，絕不僅僅是平臺企業(yè)，而是全社會。

AI作為技術大潮勢不可擋，這類事件的出現(xiàn)也勢所難免，而它一旦真的出現(xiàn)，不會導致社會否定AI，只會強化監(jiān)管共識的加強。以前很多監(jiān)管討論偏抽象，比如“AI向善”“算法透明”，今后則會逐漸走向實戰(zhàn)，這實際上對監(jiān)管層提出了更高的要求。

平臺所肩負的責任也將升級，在大力宣揚AI的同時，平臺也需證明自己能否駕馭AI，有沒有自動化防御能力，是否有極端場景演練，是否設定熔斷、降級、止損機制？同時，這次事件或將導致公眾對全人工審核的浪漫想象徹底破產(chǎn)，“AI對AI”的治理邏輯將被接受。

快手事件雖然嚴重，但還沒到天塌下來的地步，它更像一個觸發(fā)器，引出一個未來已來的現(xiàn)實風險：如果作惡方未來進化到工業(yè)化、自動化、AI化，治理方是否做好了足夠的準備呢？

來源：新京報評論微信公眾號