12月22日深夜，快手平臺上演了一場讓全網(wǎng)震驚的“內容失守”鬧劇——大量露骨色情內容突襲多個直播間，違規(guī)內容在平臺橫行超1小時，直到次日凌晨才逐步恢復正常。

事件發(fā)酵后，快手迅速給出回應，表示受到了“黑灰產(chǎn)攻擊”，宣稱已緊急修復、報警并上報相關部門。

乍一聽，快手像是個無辜的受害者，但細究整個事件的來龍去脈，這場“失守”絕非偶然的外部攻擊所能完全解釋。

01 失控的60分鐘，安全審核成真空

根據(jù)事后的總結，這場事件從發(fā)生到控制，中間經(jīng)歷了五個階段：

試探階段：21時30分起，已有零散用戶反映登錄驗證碼加載異常、視頻播放卡頓，少量主播稱直播推流不穩(wěn)。
開始階段：12月22日22：00開始，黑灰產(chǎn)組織已經(jīng)開始對快手直播平臺發(fā)動大規(guī)模協(xié)同攻擊。
爆發(fā)階段：22:30-23:30，快手直播頻道內短時間內涌現(xiàn)出海量涉及淫穢色情、血腥暴力的違規(guī)直播內容。這些直播間多數(shù)由新注冊的“小白號”或僵尸賬號開設，播放視頻，部分直播間單場觀看人數(shù)甚至逼近10萬人。
平臺處置：約23:30-00:30，面對如潮水般涌現(xiàn)的違規(guī)內容，平臺開始限制開播并封禁賬號。
平臺恢復：00:30之后，經(jīng)過緊急技術修復，快手直播頻道在凌晨基本恢復正常。

從上述幾個階段可以看到，快手對于最初的試探階段沒有重視，在爆發(fā)階段反應遲鈍，束手無策，中間有大約60分鐘快手是完全失控的狀態(tài)。

有用戶反饋，可能是發(fā)后短時間內用戶舉報量激增，快手的舉報功能都一度癱瘓，用戶連最基本的反饋通道都被堵塞。

有業(yè)內人士分析，在事件爆發(fā)階段，平臺的內容審核與封禁系統(tǒng)疑似處于失靈狀態(tài)，實時風控與內容審核體系被“擊穿”，快手不得不采取了最高級別的“無差別關停”緊急措施，全面關閉了直播頻道，才讓鬧劇得以終止。

但是也連帶讓短視頻瀏覽、提現(xiàn)等基礎功能都出現(xiàn)短暫波動，正常用戶的體驗也受到嚴重影響。

不得不說，作為一個日活躍用戶超4億的頭部平臺，快手理論上應具備行業(yè)頂尖的技術防御能力。但事實是，面對規(guī)?；⒆詣踊墓?，其安全體系瞬間陷入癱瘓，短短60到90分鐘內就被全面攻破，實在讓人大跌眼鏡。

02 “AI安全大模型”紙上談兵？

在快手事件發(fā)生之后，一篇幾個月之前的文章又被人翻了出來。

這篇文章的內容是快手安全算法中心負責人劉夢怡在AICon 全球人工智能開發(fā)與應用大會·深圳站上的演講。

演講的主要內容是快手自研安全大模型技術破解海量內容審核難題。

“以短視頻平臺的生產(chǎn)數(shù)據(jù)為例，真正的色情暴恐底線風險往往只占千分之幾的流量；因此對于我們收集數(shù)據(jù)來進行模型訓練，會有非常高的成本。”劉夢怡提到了快手在內容審核方面是通過審核智能體輔助甚至部分替代人工審核，提升審核效率和深度。

不過這次事件的發(fā)生，讓許多人對快手所謂的“自研安全大模型”瞬間祛魅。

更值得注意的是，就在事發(fā)前幾天，快手剛發(fā)布內容治理成績單，宣稱通過AI技術實現(xiàn)違規(guī)內容“秒級識別”，這種鮮明反差更讓平臺的風控能力備受質疑。

這件事情也證明了，所謂的安全大模型也不過是紙上談兵而已，最終發(fā)揮作用的還是靠著人力拉閘。

網(wǎng)絡流傳聊天記錄顯示，這次攻擊甚至讓快手的封禁接口都無法使用。

03 是內鬼配合，還是長期懈??？

快手號稱每天處理10億日志、擁有上千條檢測策略的入侵檢測體系，但此次事件卻并沒有起到作用，有人懷疑是有內鬼配合。

“色情直播持續(xù)10分鐘以上沒有觸發(fā)安全警告，這一點只有內部人員能夠做到，無論任何技術手段從外部都絕對不可能這么久繞開監(jiān)控，只能是內部人員屏蔽了上報途徑?！痹谏缃幻襟w上有人猜測。

也有人認為，可能是快手風控系統(tǒng)更新或是維護造成的自動審核級別降低或是直接關閉低俗風控。

“快手基礎建設因為沒戰(zhàn)功大家干的熱情都不高…所以快手的大部分工具都呈現(xiàn)出一種“又不是不能用”的氣質?！庇袚?jù)稱快手前員工表示，安全條線在快手的地位不高，不太受重視。

12月23日，有媒體報道，“快手急招安全崗位”，包括應用安全專家、基礎安全攻防技術專家、信息安全BP專家等。

但實際上從并非如此，從“快手安全應急響應中心”公眾號來看，早在一個月之前快手就一直在招聘相關崗位，并非臨時抱佛腳。

長期招聘要么意味著人員流動大，要么意味著長期沒有招到人。

一個不爭的事實是，快手的安全部門確實長期處于不穩(wěn)定的狀態(tài)。

9月1日，快手科技發(fā)布組織架構調整公告，公司高級副總裁余海波不再擔任安全合規(guī)線負責人，轉任公司榮譽顧問，與此同時公司高級副總裁馬宏彬擔任安全合規(guī)線負責人。

然而從履歷來看，馬宏彬并非安全業(yè)務出身，其工作經(jīng)歷主要集中在運營、商業(yè)化、國際化這些領域，在擔任安全合規(guī)線負責人之前主要分管快手國際化業(yè)務。

相比之下其前任余海波是多年老媒體人出身，對于安全方面有著更敏銳的感知。

此外，有信息顯示，自2023年底以來，快手經(jīng)歷了包括安全合規(guī)線負責人、研發(fā)線負責人在內的超過十位副總裁級以上技術高管的離職或卸任。核心安全技術團隊的不穩(wěn)定，可能對防御體系的長期規(guī)劃、迭代響應速度和應急能力產(chǎn)生了潛在影響。

11月22日，快手剛因對違法信息未及時處置、落實青少年模式不到位等問題，被公安機關依法給予警告處罰。

也有評論指出，快手的審核機制長期存在放水，對于頭部網(wǎng)紅的違規(guī)行為，平臺往往“高舉輕放”。

如擁有四千萬粉絲的網(wǎng)紅“祁天道”曾在直播中做出騷擾女性的低俗行為，最初僅被處以15天封禁的處罰，難以形成有效威懾。而旨在保護未成年人的“青少年模式”更是形同虛設，用戶通過微信分享的鏈接，無需登錄就能直接觀看完整視頻，輕易繞過防護機制。

“或許這種“只喊口號不落實”的治理態(tài)度，為平臺的安全問題埋下伏筆?！庇杏^點認為，此次黑灰產(chǎn)之所以能輕易得手，很大程度上也是利用了平臺日常治理中的這些“結構性漏洞”。