2025年，互聯(lián)網(wǎng)一次又一次證明了，早已成為基礎設施的巨型平臺比我們想象的更脆弱。

10月，控制著全球1/3公共云計算市場的亞馬遜AWS服務器宕機，當天不僅亞馬遜網(wǎng)站癱瘓了9個小時，Zoom、星巴克等網(wǎng)站也出現(xiàn)中斷，“數(shù)百萬美國人斷網(wǎng)的一天”。12月4日，“支付寶崩了”再次登上熱搜，同時淘寶和閑魚也出現(xiàn)頁面異常。這是10月來支付寶的第三次故障，平均每月一次。

距離新年只剩一周之際，互聯(lián)網(wǎng)的內容世界也崩塌了一角。

12月22日晚，快手直播的首頁突然涌現(xiàn)出大量播放著色情、血腥、暴力內容的直播間。

約10點左右，大量快手用戶目睹了這些直播。直到23日凌晨00:30左右，快手才緊急關停了直播功能。在直播被關停時，已經有單場直播觀看人數(shù)超過了5萬人。

快手在公開聲明里，將這次事故歸因于“平臺遭到黑灰產攻擊”。攻擊者如何繞過安保機制，又為什么要以違規(guī)內容直播的形式攻擊，網(wǎng)絡上有諸多揣測，但目前快手官方還沒有給出更詳盡的解釋。

“唯一能確定的是，快手不只是受害者。”

晚上10點，正是許多人點開短視頻App，休息娛樂的高峰期。

有用戶描述，22日晚上，她正在快手上刷著美食直播，下一秒劃出來的卻是露骨的色情畫面。在她的首頁上，平常看的帶貨、吃播都不見了，色情內容占領了多個直播間，“一劃全是”。她感到不適，趕緊退出了直播間。

“還好退得早，聽說之后還有人看到血腥、解剖的內容?！?/p>

集中上線后，這些直播間的觀看人數(shù)飛漲。有的直播間觀看人數(shù)超5萬，這也助推了這些內容被推向更多的人。色情、暴力內容的直播不斷涌現(xiàn)，有人說自己的首頁“一度刷不出其他內容”“往下劃10次都是涉黃內容”。

直到第二天凌晨00:30，快手才下架了全部直播頻道——“無差別關?！北徽J為是互聯(lián)網(wǎng)平臺最高級別的應急處理措施。

大量用戶見證了這場長達2個半小時的混亂。直播的發(fā)布者既有剛注冊的新賬號，也有曾經發(fā)過視頻的老賬號——這些賬號被認為是長久沒被使用的“僵尸號”。有人甚至看到了一個賬號顯示距離自己只有500米。

有人嘗試舉報這些直播間，但無果。當天凌晨，北京公安局海淀分局對《紅星新聞》表示，他們已經接到了多個快手直播相關的群眾報案。

23日00:45左右，快手的直播功能基本恢復正常。

隨后一早，快手官方回應這次事件稱“平臺遭到灰黑產攻擊，已緊急處理修復”。并表示快手“強烈譴責黑灰產的違法犯罪行為”，已就上述事宜向公安機關報警并向相關部門報告。

在互聯(lián)網(wǎng)上，網(wǎng)友們的第一反應是將事故歸因于快手的“審核失靈”，“當晚審核員都集體睡著了嗎”的質疑層出不窮。這也是在看到違規(guī)內容時，多數(shù)人的直接印象——審核機制，無論是算法、AI還是人工，沒能在海量的信息流里“捉住”那些“本不應該出現(xiàn)”的內容。

可為什么捉不?。?/p>

“快手驚魂夜”發(fā)生后，迅速成為輿論焦點，多名信息安全專家在網(wǎng)絡上公開發(fā)表了自己對這次事件經過的看法。

第一步是繞過審核。一個共同的觀點是，黑灰產在制造這場混亂時使用了自動化攻擊，利用海量賬號集中開播，導致平臺“執(zhí)行封禁”的能力被摧毀了，直播賬號的數(shù)量太大，以至于“突破了審核防守的極限”。

其次是實名認證問題。直播需要實名認證，而攻擊者被認為是通過盜號獲得已實名的用戶賬戶、或大批注冊虛擬手機號等方式，“繞開了實名認證系統(tǒng)獲得實名權限”。

最后，這些直播間不僅開播，還出現(xiàn)了在無數(shù)人的“首頁”，這意味著推薦機制也參與其中。這些直播間隨后被推薦給了大量用戶，這可能是由于攻擊者“拿到推流做加密流量”，也或許是“用戶訪問量激增”，激發(fā)了算法的推薦機制。

“攻擊”選擇的時間點，也被認為是這場混亂影響廣泛的原因之一：晚10點是用戶大量登入的“平臺負載水位高點”，也是人工審核換班期，人力最薄弱、應急響應速度下降。

這場危機之所以讓快手“猝不及防”，可能的技術背景是，AI的快速發(fā)展讓發(fā)起類似攻擊的門檻降到了極低，大規(guī)模、高頻次的攻擊實現(xiàn)了“全面自動化”。11月，由全球領先的AI實驗室Anthropic發(fā)布的報告證實，今年9月，一場“高度復雜”的攻擊活動已由 AI 徹底主導，每場攻擊中人類僅需參與4-6次關鍵決策。

但無論是哪種可能性，都表明快手從直播實名認證，到內容審核，再到推流機制，都存在潛在的漏洞。

漏洞分布在各個環(huán)節(jié)，意味著快手也本該有多次機會發(fā)現(xiàn)問題和阻止攻擊?！氨热鐦I(yè)務側方面，以前的僵尸用戶突然活躍起來了卻沒有預警，這就是問題。”一位網(wǎng)絡安全資深從業(yè)者對《虎嗅》分析道。

無論攻擊的手段再怎么高明，無可否認的是的，任何內容所造成的影響大小都和“被看到”和“被傳播”的時間長短直接相關。在這場持續(xù)了超過2個小時的混亂中，一些內容被截圖、錄屏，在社交媒體上再次被分享。

作為國內的頭部互聯(lián)網(wǎng)大廠，快手的解決速度超出了很多人的預料，因此也被業(yè)內質疑“決策鏈路冗長，缺乏緊急情況下快速響應的機制”。

但是，比起“遭到攻擊”背后復雜的技術博弈，快手事故中引起更廣泛憂慮的，或許是攻擊者所使用的內容——色情、暴力、血腥。當大量未經過濾的極端內容出現(xiàn)在一個日活躍用戶超過4億的短視頻平臺的直播頁面，遭受沖擊的往往是最毫無防備的用戶，其中就包括未成年用戶。

有人在自己的社交媒體上分享，當天晚上自己的未成年表弟在快手上刷直播，意外看到了極其血腥的直播間內容，哭著給自己打電話，因為“不敢告訴父母”。

2023年《第5次全國未成年人互聯(lián)網(wǎng)使用情況調查報告》顯示，經常看短視頻的未成年網(wǎng)民比例已經從2018年的40.5%增長至2022年的54.1%，“短視頻成為未成年人獲取信息的重要渠道?！?/p>

圖源：《網(wǎng)絡謎蹤》

在這次“攻擊”因快手短暫下架直播功能而終止之后，更普遍的擔憂則源于這樣的事實：短視頻平臺里的色情、極端、傷害性內容并不只是出現(xiàn)在了這一次大規(guī)模的“黑灰產攻擊”中。

作為國內最大的短視頻平臺之一，快手的不良內容低齡化趨勢在近兩年成為爭議的焦點。

諸如“05年孕婦三胎日?！薄坝桌憋L”“廁所文化”一度在快手上層出不窮，一些視頻達到了千萬級播放量。由此延伸出“慢腳文化”（慢腳對應快手）——以未成年人為演繹主角的一系列擦邊、暴力、獵奇的短視頻，曾在快手上盛行。

快手也因為違規(guī)內容多次受到處罰。去年4月，“低齡媽媽”視頻在快手走紅引發(fā)批評，快手被廣電總局約談。11月底，國家網(wǎng)絡安全通報中心發(fā)布通告稱，快手存在對法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⑽醇皶r處置，以及落實青少年模式不到位等情況，導致違法信息擴散，危害未成年人身心健康，對快手公司采取警告處罰。

問題當然不只是快手的。2021年的掃黃打非行動中，抖音因存在傳播淫穢色情低俗信息行為，被處以頂格罰款的行政處罰。而在b站平臺上，“深夜里能看到的擦邊直播更多”，長期以來被用戶們當成一種心照不宣的“默認規(guī)則”。

這種內容生態(tài)的龐大和持續(xù)，可以從各個平臺的“治理報告”中部分窺見。

快手發(fā)布的《2024快手社區(qū)治理報告》顯示，去年一年，快手清理謠言視頻51萬余條，封禁謠言賬號3萬余個。網(wǎng)絡暴力更是“違規(guī)內容”的重災區(qū)，去年快手攔截網(wǎng)暴信息388萬余條，清理網(wǎng)暴信息24.3萬余條。

“黑灰產”也并不是第一次出現(xiàn)在快手的治理中。快手去年日均識別封禁網(wǎng)絡水軍、黑產機器人等賬號22.5萬個，攔截作弊請求超1億次。

在剛剛過去的一個月，抖音宣布平臺清除了涉及未成年人違規(guī)內容20.2萬條，其中包括“利用未成年人形象不當牟利”“涉未成年人色情低俗”等。

圖源：《混沌少年時》

而這些僅僅是被發(fā)現(xiàn)、被攔截的部分。

抖音、快手等主流短視頻平臺都采取雙重審核的機制。抖音在今年4月公開解釋了他們的審核機制：平臺會先使用機器對用戶上傳的內容進行識別、過濾，被判斷有高危特征的內容會被直接攔截。如果內容“未命中高危特征但模型判斷有問題”，會再采取一輪人工審核。但如果機器判定內容出問題概率較低，內容就會獲得基礎流量，進入下一環(huán)節(jié)。

值得注意的是，直播的內容審核比短視頻難得多。“短視頻是先審后發(fā)，直播是邊播邊審，在實時性方面更難保證”，一位參與了抖音團隊內容審核大模型研發(fā)的員工向《氫商業(yè)》透露。

AI早已成為視頻平臺內容審核的重要參與者，AI會根據(jù)歷史違規(guī)數(shù)據(jù)訓練好的模型，對色情暴力、敏感詞違禁詞等常見違規(guī)現(xiàn)象進行判定。早在2018年，抖音就開始運用人工智能輔助內容審核。現(xiàn)在很多場景里已經在用更細分、專業(yè)的小模型進行審核，直播大模型則“正在訓練中”。

總體而言，目前用于直播審核的大模型，還遠不如短視頻審核的大模型成熟，上述員工表示。

審核和流量的天平，在直播間和短視頻中并不相同：直播審核、封禁的難度更大，但直播業(yè)態(tài)對快手的流量卻至關重要。2020年時，快手兩億多的日活中有一半是直播用戶。當時，快手科技副總裁余敬中直言，直播是快手的最大優(yōu)勢。

如果一個視頻或直播在發(fā)布之后被用戶舉報，則會通過人工復審等方式進行下架。在互聯(lián)網(wǎng)上，構建內容秩序的最后一道關卡的，依舊是人。

審核員的崗位在大廠中長期處于“缺人”的狀態(tài)。在4月份被約談后，快手的一則招聘信息顯示，他們計劃擴招3000名審核人員，將原本2000人的審核團隊擴充到5000人，“黨員團員優(yōu)先”。

各大平臺的內容審核員中，很大一部分是外包崗位。據(jù)南都大數(shù)據(jù)研究院2022年的調查，快手超過一半的審核相關崗位分布在成都、武漢、天津、哈爾濱等地。“二三線城市為主”的地域分布對應著更低的用工成本，內容審核員的工資區(qū)間大多分布在4000到8000之間，“從業(yè)者以畢業(yè)生、一到三年工作經驗的人群、大?；蛞陨蠈W歷為主，沒有專業(yè)限制”。

很多審核員需要承受頻繁的夜班，近12小時的工作時長。長期面對色情、暴力、兇殺等極端內容，也讓很多人長期承受心理壓力，一些人因此患上PTSD（創(chuàng)傷后精神緊張性障礙）。

而高度依賴于“人”的內容審核機制，一定程度上意味著，互聯(lián)網(wǎng)上每一秒都在更新、變化的內容秩序很難做到真正的“穩(wěn)定安全”，甚至相當脆弱。

內容治理的難度，除了“黑灰產”們愈發(fā)先進的網(wǎng)絡技術，還有人性驅動的“算法慣性”存在。諷刺的是，在遭遇攻擊的當晚，快手App的下載次數(shù)大漲。23日，快手在蘋果應用商店免費榜單的排名升至第二名。事故結束的第二天，依然有人在社交媒體上發(fā)帖，“遺憾沒趕上前一天晚上快手上的色情直播”。平臺在流量和內容安全之間總是存在“兩難”，但潛在的利益同時也表明平臺在其中承擔的不可推卸的責任。

這種“算法慣性”還意味著，“如果你給互聯(lián)網(wǎng)開一個口子，它就會被垃圾填滿”。

“互聯(lián)網(wǎng)公司制定的具體規(guī)則幾乎都是不被人所知的，不透明的規(guī)則使科技公司成為最終仲裁者，這意味著他們可以隨時更改規(guī)則，且無需對任何人負責，這種關系非常不平衡”，長期關注社交媒體審核機制的美國加州大學洛杉磯分校助理教授莎拉·羅伯茨在和《界面文化》的訪談中總結道。

AI逐漸取代了部分人類審核員的工作，但這并不意味著內容審核離“人”越來越遠，反而審核越來越需要人類把關。

類似ChatGPT這樣新工具的開發(fā)，都需要龐大的工人隊伍輔助、有人必須收集AI訓練數(shù)據(jù)，有人必須審核算法，有人必須處理誤判的問題，“我們只是在改變人類審核的時間點”，莎拉·羅伯茨說。

于是問題最終還是回到了，互聯(lián)網(wǎng)公司和人選擇了什么。一家頭部互聯(lián)網(wǎng)公司的前金融業(yè)務算法總監(jiān)曾將平臺算法長期存在的問題總結為商業(yè)目標導致的“系統(tǒng)冷漠”。這種冷漠包含平臺獲取流量的人之間的博弈，以及算法設定者——同時也是大廠員工，面臨的收益導向的KPI壓力，“員工們的優(yōu)化目標是點擊，存留，而不是一則信息是否健康、屬實。”

這種選擇性，還體現(xiàn)在公司如何決定成本分配?！熬W(wǎng)絡安全作為不產生直接效益的部門，一旦公司開始收縮則很可能被優(yōu)先裁掉”，《虎嗅》的報道指出。

有網(wǎng)絡安全從業(yè)者在快手直播事故后感嘆，“辛苦工作一年沒出事，領導覺得你什么都沒做；年底一出事，領導覺得你該擔責。

在這次“快手驚魂夜”中，外界很難在短時間內知曉最終的處置和責任歸因。明確的是，遭到這次事故直接影響的除了快手用戶，還有大批快手的普通員工，以及剛剛拿到快手offer的畢業(yè)生——“本來很開心，現(xiàn)在不知道還該不該入職了”。

“牛馬當久了，看到這件事的第一反應是同情：不知道多少人辛辛苦苦干一年，年終獎沒了，工作也不保了。”

參考資料：

1.界面文化，《互聯(lián)網(wǎng)審核行業(yè)將繼續(xù)不可見，并以最糟糕的方式全球化 | 專訪》，2023.07

2.財聯(lián)社，《算法逐利 ：商業(yè)自驅下的“系統(tǒng)冷漠”》，2024.12

3.虎嗅App，《快手不止是“受害者”，快手還沒有做到的》，2025.12

4.第一財經，《打破“信息繭房”，抖音披露算法邏輯與審核機制》，2025.04

5.每日經濟新聞，《快手大整改，急招3000人審核團隊，黨員團員優(yōu)先》，2025.04

6.中國日報，《快手副總裁余敬中：直播是快手的最大優(yōu)勢，兩億多日活一半是直播用戶》，2020.01

7.第一財經，《自動化工具還是業(yè)務層對抗？安全專家這樣分析快手被攻擊》，2025.12

編輯｜盧力麟

作者｜賈小樂

設計｜胖兔

封面圖源｜Netflix 紀錄片《監(jiān)視資本主義：智能陷阱》