2025年，互聯(lián)網(wǎng)一次又一次證明了，早已成為基礎(chǔ)設(shè)施的巨型平臺比我們想象的更脆弱。

10月，控制著全球1/3公共云計算市場的亞馬遜AWS服務(wù)器宕機，當(dāng)天不僅亞馬遜網(wǎng)站癱瘓了9個小時，Zoom、星巴克等網(wǎng)站也出現(xiàn)中斷，“數(shù)百萬美國人斷網(wǎng)的一天”。12月4日，“支付寶崩了”再次登上熱搜，同時淘寶和閑魚也出現(xiàn)頁面異常。這是10月來支付寶的第三次故障，平均每月一次。

距離新年只剩一周之際，互聯(lián)網(wǎng)的內(nèi)容世界也崩塌了一角。

12月22日晚，快手直播的首頁突然涌現(xiàn)出大量播放著色情、血腥、暴力內(nèi)容的直播間。

約10點左右，大量快手用戶目睹了這些直播。直到23日凌晨00:30左右，快手才緊急關(guān)停了直播功能。在直播被關(guān)停時，已經(jīng)有單場直播觀看人數(shù)超過了5萬人。

快手在公開聲明里，將這次事故歸因于“平臺遭到黑灰產(chǎn)攻擊”。攻擊者如何繞過安保機制，又為什么要以違規(guī)內(nèi)容直播的形式攻擊，網(wǎng)絡(luò)上有諸多揣測，但目前快手官方還沒有給出更詳盡的解釋。

“唯一能確定的是，快手不只是受害者?！?/strong>

晚上10點，正是許多人點開短視頻App，休息娛樂的高峰期。

有用戶描述，22日晚上，她正在快手上刷著美食直播，下一秒劃出來的卻是露骨的色情畫面。在她的首頁上，平?？吹膸ж?、吃播都不見了，色情內(nèi)容占領(lǐng)了多個直播間，“一劃全是”。她感到不適，趕緊退出了直播間。

“還好退得早，聽說之后還有人看到血腥、解剖的內(nèi)容?！?/p>

集中上線后，這些直播間的觀看人數(shù)飛漲。有的直播間觀看人數(shù)超5萬，這也助推了這些內(nèi)容被推向更多的人。色情、暴力內(nèi)容的直播不斷涌現(xiàn)，有人說自己的首頁“一度刷不出其他內(nèi)容”“往下劃10次都是涉黃內(nèi)容”。

直到第二天凌晨00:30，快手才下架了全部直播頻道——“無差別關(guān)停”被認為是互聯(lián)網(wǎng)平臺最高級別的應(yīng)急處理措施。

大量用戶見證了這場長達2個半小時的混亂。直播的發(fā)布者既有剛注冊的新賬號，也有曾經(jīng)發(fā)過視頻的老賬號——這些賬號被認為是長久沒被使用的“僵尸號”。有人甚至看到了一個賬號顯示距離自己只有500米。

有人嘗試舉報這些直播間，但無果。當(dāng)天凌晨，北京公安局海淀分局對《紅星新聞》表示，他們已經(jīng)接到了多個快手直播相關(guān)的群眾報案。

23日00:45左右，快手的直播功能基本恢復(fù)正常。

隨后一早，快手官方回應(yīng)這次事件稱“平臺遭到灰黑產(chǎn)攻擊，已緊急處理修復(fù)”。并表示快手“強烈譴責(zé)黑灰產(chǎn)的違法犯罪行為”，已就上述事宜向公安機關(guān)報警并向相關(guān)部門報告。

在互聯(lián)網(wǎng)上，網(wǎng)友們的第一反應(yīng)是將事故歸因于快手的“審核失靈”，“當(dāng)晚審核員都集體睡著了嗎”的質(zhì)疑層出不窮。這也是在看到違規(guī)內(nèi)容時，多數(shù)人的直接印象——審核機制，無論是算法、AI還是人工，沒能在海量的信息流里“捉住”那些“本不應(yīng)該出現(xiàn)”的內(nèi)容。

可為什么捉不?。?/p>

“快手驚魂夜”發(fā)生后，迅速成為輿論焦點，多名信息安全專家在網(wǎng)絡(luò)上公開發(fā)表了自己對這次事件經(jīng)過的看法。

第一步是繞過審核。一個共同的觀點是，黑灰產(chǎn)在制造這場混亂時使用了自動化攻擊，利用海量賬號集中開播，導(dǎo)致平臺“執(zhí)行封禁”的能力被摧毀了，直播賬號的數(shù)量太大，以至于“突破了審核防守的極限”。

其次是實名認證問題。直播需要實名認證，而攻擊者被認為是通過盜號獲得已實名的用戶賬戶、或大批注冊虛擬手機號等方式，“繞開了實名認證系統(tǒng)獲得實名權(quán)限”。

最后，這些直播間不僅開播，還出現(xiàn)了在無數(shù)人的“首頁”，這意味著推薦機制也參與其中。這些直播間隨后被推薦給了大量用戶，這可能是由于攻擊者“拿到推流做加密流量”，也或許是“用戶訪問量激增”，激發(fā)了算法的推薦機制。

“攻擊”選擇的時間點，也被認為是這場混亂影響廣泛的原因之一：晚10點是用戶大量登入的“平臺負載水位高點”，也是人工審核換班期，人力最薄弱、應(yīng)急響應(yīng)速度下降。

這場危機之所以讓快手“猝不及防”，可能的技術(shù)背景是，AI的快速發(fā)展讓發(fā)起類似攻擊的門檻降到了極低，大規(guī)模、高頻次的攻擊實現(xiàn)了“全面自動化”。11月，由全球領(lǐng)先的AI實驗室Anthropic發(fā)布的報告證實，今年9月，一場“高度復(fù)雜”的攻擊活動已由 AI 徹底主導(dǎo)，每場攻擊中人類僅需參與4-6次關(guān)鍵決策。

但無論是哪種可能性，都表明快手從直播實名認證，到內(nèi)容審核，再到推流機制，都存在潛在的漏洞。

漏洞分布在各個環(huán)節(jié)，意味著快手也本該有多次機會發(fā)現(xiàn)問題和阻止攻擊?！氨热鐦I(yè)務(wù)側(cè)方面，以前的僵尸用戶突然活躍起來了卻沒有預(yù)警，這就是問題?！币晃痪W(wǎng)絡(luò)安全資深從業(yè)者對《虎嗅》分析道。

無論攻擊的手段再怎么高明，無可否認的是的，任何內(nèi)容所造成的影響大小都和“被看到”和“被傳播”的時間長短直接相關(guān)。在這場持續(xù)了超過2個小時的混亂中，一些內(nèi)容被截圖、錄屏，在社交媒體上再次被分享。

作為國內(nèi)的頭部互聯(lián)網(wǎng)大廠，快手的解決速度超出了很多人的預(yù)料，因此也被業(yè)內(nèi)質(zhì)疑“決策鏈路冗長，缺乏緊急情況下快速響應(yīng)的機制”。

但是，比起“遭到攻擊”背后復(fù)雜的技術(shù)博弈，快手事故中引起更廣泛憂慮的，或許是攻擊者所使用的內(nèi)容——色情、暴力、血腥。當(dāng)大量未經(jīng)過濾的極端內(nèi)容出現(xiàn)在一個日活躍用戶超過4億的短視頻平臺的直播頁面，遭受沖擊的往往是最毫無防備的用戶，其中就包括未成年用戶。

有人在自己的社交媒體上分享，當(dāng)天晚上自己的未成年表弟在快手上刷直播，意外看到了極其血腥的直播間內(nèi)容，哭著給自己打電話，因為“不敢告訴父母”。

2023年《第5次全國未成年人互聯(lián)網(wǎng)使用情況調(diào)查報告》顯示，經(jīng)?？炊桃曨l的未成年網(wǎng)民比例已經(jīng)從2018年的40.5%增長至2022年的54.1%，“短視頻成為未成年人獲取信息的重要渠道。”

圖源：《網(wǎng)絡(luò)謎蹤》

在這次“攻擊”因快手短暫下架直播功能而終止之后，更普遍的擔(dān)憂則源于這樣的事實：短視頻平臺里的色情、極端、傷害性內(nèi)容并不只是出現(xiàn)在了這一次大規(guī)模的“黑灰產(chǎn)攻擊”中。

作為國內(nèi)最大的短視頻平臺之一，快手的不良內(nèi)容低齡化趨勢在近兩年成為爭議的焦點。

諸如“05年孕婦三胎日?！薄坝桌憋L(fēng)”“廁所文化”一度在快手上層出不窮，一些視頻達到了千萬級播放量。由此延伸出“慢腳文化”（慢腳對應(yīng)快手）——以未成年人為演繹主角的一系列擦邊、暴力、獵奇的短視頻，曾在快手上盛行。

快手也因為違規(guī)內(nèi)容多次受到處罰。去年4月，“低齡媽媽”視頻在快手走紅引發(fā)批評，快手被廣電總局約談。11月底，國家網(wǎng)絡(luò)安全通報中心發(fā)布通告稱，快手存在對法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⑽醇皶r處置，以及落實青少年模式不到位等情況，導(dǎo)致違法信息擴散，危害未成年人身心健康，對快手公司采取警告處罰。

問題當(dāng)然不只是快手的。2021年的掃黃打非行動中，抖音因存在傳播淫穢色情低俗信息行為，被處以頂格罰款的行政處罰。而在b站平臺上，“深夜里能看到的擦邊直播更多”，長期以來被用戶們當(dāng)成一種心照不宣的“默認規(guī)則”。

這種內(nèi)容生態(tài)的龐大和持續(xù)，可以從各個平臺的“治理報告”中部分窺見。

快手發(fā)布的《2024快手社區(qū)治理報告》顯示，去年一年，快手清理謠言視頻51萬余條，封禁謠言賬號3萬余個。網(wǎng)絡(luò)暴力更是“違規(guī)內(nèi)容”的重災(zāi)區(qū)，去年快手攔截網(wǎng)暴信息388萬余條，清理網(wǎng)暴信息24.3萬余條。

“黑灰產(chǎn)”也并不是第一次出現(xiàn)在快手的治理中?？焓秩ツ耆站R別封禁網(wǎng)絡(luò)水軍、黑產(chǎn)機器人等賬號22.5萬個，攔截作弊請求超1億次。

在剛剛過去的一個月，抖音宣布平臺清除了涉及未成年人違規(guī)內(nèi)容20.2萬條，其中包括“利用未成年人形象不當(dāng)牟利”“涉未成年人色情低俗”等。

圖源：《混沌少年時》

而這些僅僅是被發(fā)現(xiàn)、被攔截的部分。

抖音、快手等主流短視頻平臺都采取雙重審核的機制。抖音在今年4月公開解釋了他們的審核機制：平臺會先使用機器對用戶上傳的內(nèi)容進行識別、過濾，被判斷有高危特征的內(nèi)容會被直接攔截。如果內(nèi)容“未命中高危特征但模型判斷有問題”，會再采取一輪人工審核。但如果機器判定內(nèi)容出問題概率較低，內(nèi)容就會獲得基礎(chǔ)流量，進入下一環(huán)節(jié)。

值得注意的是，直播的內(nèi)容審核比短視頻難得多。“短視頻是先審后發(fā)，直播是邊播邊審，在實時性方面更難保證”，一位參與了抖音團隊內(nèi)容審核大模型研發(fā)的員工向《氫商業(yè)》透露。

AI早已成為視頻平臺內(nèi)容審核的重要參與者，AI會根據(jù)歷史違規(guī)數(shù)據(jù)訓(xùn)練好的模型，對色情暴力、敏感詞違禁詞等常見違規(guī)現(xiàn)象進行判定。早在2018年，抖音就開始運用人工智能輔助內(nèi)容審核?，F(xiàn)在很多場景里已經(jīng)在用更細分、專業(yè)的小模型進行審核，直播大模型則“正在訓(xùn)練中”。

總體而言，目前用于直播審核的大模型，還遠不如短視頻審核的大模型成熟，上述員工表示。

審核和流量的天平，在直播間和短視頻中并不相同：直播審核、封禁的難度更大，但直播業(yè)態(tài)對快手的流量卻至關(guān)重要。2020年時，快手兩億多的日活中有一半是直播用戶。當(dāng)時，快手科技副總裁余敬中直言，直播是快手的最大優(yōu)勢。

如果一個視頻或直播在發(fā)布之后被用戶舉報，則會通過人工復(fù)審等方式進行下架。在互聯(lián)網(wǎng)上，構(gòu)建內(nèi)容秩序的最后一道關(guān)卡的，依舊是人。

審核員的崗位在大廠中長期處于“缺人”的狀態(tài)。在4月份被約談后，快手的一則招聘信息顯示，他們計劃擴招3000名審核人員，將原本2000人的審核團隊擴充到5000人，“黨員團員優(yōu)先”。

各大平臺的內(nèi)容審核員中，很大一部分是外包崗位。據(jù)南都大數(shù)據(jù)研究院2022年的調(diào)查，快手超過一半的審核相關(guān)崗位分布在成都、武漢、天津、哈爾濱等地。“二三線城市為主”的地域分布對應(yīng)著更低的用工成本，內(nèi)容審核員的工資區(qū)間大多分布在4000到8000之間，“從業(yè)者以畢業(yè)生、一到三年工作經(jīng)驗的人群、大專或以上學(xué)歷為主，沒有專業(yè)限制”。

很多審核員需要承受頻繁的夜班，近12小時的工作時長。長期面對色情、暴力、兇殺等極端內(nèi)容，也讓很多人長期承受心理壓力，一些人因此患上PTSD（創(chuàng)傷后精神緊張性障礙）。

而高度依賴于“人”的內(nèi)容審核機制，一定程度上意味著，互聯(lián)網(wǎng)上每一秒都在更新、變化的內(nèi)容秩序很難做到真正的“穩(wěn)定安全”，甚至相當(dāng)脆弱。

內(nèi)容治理的難度，除了“黑灰產(chǎn)”們愈發(fā)先進的網(wǎng)絡(luò)技術(shù)，還有人性驅(qū)動的“算法慣性”存在。諷刺的是，在遭遇攻擊的當(dāng)晚，快手App的下載次數(shù)大漲。23日，快手在蘋果應(yīng)用商店免費榜單的排名升至第二名。事故結(jié)束的第二天，依然有人在社交媒體上發(fā)帖，“遺憾沒趕上前一天晚上快手上的色情直播”。平臺在流量和內(nèi)容安全之間總是存在“兩難”，但潛在的利益同時也表明平臺在其中承擔(dān)的不可推卸的責(zé)任。

這種“算法慣性”還意味著，“如果你給互聯(lián)網(wǎng)開一個口子，它就會被垃圾填滿”。

“互聯(lián)網(wǎng)公司制定的具體規(guī)則幾乎都是不被人所知的，不透明的規(guī)則使科技公司成為最終仲裁者，這意味著他們可以隨時更改規(guī)則，且無需對任何人負責(zé)，這種關(guān)系非常不平衡”，長期關(guān)注社交媒體審核機制的美國加州大學(xué)洛杉磯分校助理教授莎拉·羅伯茨在和《界面文化》的訪談中總結(jié)道。

AI逐漸取代了部分人類審核員的工作，但這并不意味著內(nèi)容審核離“人”越來越遠，反而審核越來越需要人類把關(guān)。

類似ChatGPT這樣新工具的開發(fā)，都需要龐大的工人隊伍輔助、有人必須收集AI訓(xùn)練數(shù)據(jù)，有人必須審核算法，有人必須處理誤判的問題，“我們只是在改變?nèi)祟悓徍说臅r間點”，莎拉·羅伯茨說。

于是問題最終還是回到了，互聯(lián)網(wǎng)公司和人選擇了什么。一家頭部互聯(lián)網(wǎng)公司的前金融業(yè)務(wù)算法總監(jiān)曾將平臺算法長期存在的問題總結(jié)為商業(yè)目標(biāo)導(dǎo)致的“系統(tǒng)冷漠”。這種冷漠包含平臺獲取流量的人之間的博弈，以及算法設(shè)定者——同時也是大廠員工，面臨的收益導(dǎo)向的KPI壓力，“員工們的優(yōu)化目標(biāo)是點擊，存留，而不是一則信息是否健康、屬實?！?/p>

這種選擇性，還體現(xiàn)在公司如何決定成本分配。“網(wǎng)絡(luò)安全作為不產(chǎn)生直接效益的部門，一旦公司開始收縮則很可能被優(yōu)先裁掉”，《虎嗅》的報道指出。

有網(wǎng)絡(luò)安全從業(yè)者在快手直播事故后感嘆，“辛苦工作一年沒出事，領(lǐng)導(dǎo)覺得你什么都沒做；年底一出事，領(lǐng)導(dǎo)覺得你該擔(dān)責(zé)。

在這次“快手驚魂夜”中，外界很難在短時間內(nèi)知曉最終的處置和責(zé)任歸因。明確的是，遭到這次事故直接影響的除了快手用戶，還有大批快手的普通員工，以及剛剛拿到快手offer的畢業(yè)生——“本來很開心，現(xiàn)在不知道還該不該入職了”。

“牛馬當(dāng)久了，看到這件事的第一反應(yīng)是同情：不知道多少人辛辛苦苦干一年，年終獎沒了，工作也不保了?！?/strong>

參考資料：

1.界面文化，《互聯(lián)網(wǎng)審核行業(yè)將繼續(xù)不可見，并以最糟糕的方式全球化 | 專訪》，2023.07

2.財聯(lián)社，《算法逐利 ：商業(yè)自驅(qū)下的“系統(tǒng)冷漠”》，2024.12

3.虎嗅App，《快手不止是“受害者”，快手還沒有做到的》，2025.12

4.第一財經(jīng)，《打破“信息繭房”，抖音披露算法邏輯與審核機制》，2025.04

5.每日經(jīng)濟新聞，《快手大整改，急招3000人審核團隊，黨員團員優(yōu)先》，2025.04

6.中國日報，《快手副總裁余敬中：直播是快手的最大優(yōu)勢，兩億多日活一半是直播用戶》，2020.01

7.第一財經(jīng)，《自動化工具還是業(yè)務(wù)層對抗？安全專家這樣分析快手被攻擊》，2025.12

編輯｜盧力麟

作者｜賈小樂

設(shè)計｜胖兔

封面圖源｜Netflix 紀(jì)錄片《監(jiān)視資本主義：智能陷阱》