隨著互聯(lián)網(wǎng)廣告生態(tài)的持續(xù)擴(kuò)張，廣告已成為連接企業(yè)與用戶的核心紐帶。

但如今，整個(gè)互聯(lián)網(wǎng)廣告生態(tài)正面臨著前所未有的治理挑戰(zhàn)，廣告欺詐、貨不對(duì)板、黑產(chǎn)違規(guī)等風(fēng)險(xiǎn)如同暗潮涌動(dòng)。

這些風(fēng)險(xiǎn)并非抽象的概念，而是真實(shí)存在于用戶每一次點(diǎn)擊與交互中：

可能是宣稱 “卡通畫風(fēng)”游戲 ，點(diǎn)進(jìn)去卻實(shí)際為“仙俠復(fù)古畫風(fēng)”的游戲廣告、可能是誘導(dǎo)用戶填寫手機(jī)號(hào)后自動(dòng)扣費(fèi)的虛假權(quán)益宣傳，也可能是偽裝成正規(guī) APP 的詐騙軟件。

它們藏在光鮮的廣告素材背后，伺機(jī)侵蝕著互聯(lián)網(wǎng)生態(tài)的健康。

巨量引擎商業(yè)信任與安全團(tuán)隊(duì)，正是抵御這些風(fēng)險(xiǎn)的核心力量。他們的工作常處于 “幕后”：

當(dāng)風(fēng)險(xiǎn)被成功攔截，無(wú)人知曉他們的付出；而一旦出現(xiàn)疏漏，質(zhì)疑聲便會(huì)接踵而至。

是什么讓他們甘愿在幕后堅(jiān)守？本次故事，就將走進(jìn)這支團(tuán)隊(duì)的日常，揭開他們?nèi)绾螢閮|萬(wàn)用戶筑起 “安全防線” 的秘密。

以下是關(guān)于他們的真實(shí)故事：

文 |楊佳

編輯 | 卓然

2024 年，河南鄭州某小區(qū)內(nèi)，一場(chǎng)緊張的抓捕行動(dòng)正在進(jìn)行。

在當(dāng)?shù)鼐降念I(lǐng)導(dǎo)下，物業(yè)以 “查水電” 為由敲開房門后，迅速控制屋內(nèi) 4 名嫌疑人，現(xiàn)場(chǎng)查獲 12 臺(tái)作案電腦、20 部手機(jī)，以及一本記錄著規(guī)避 IP 檢測(cè)與話術(shù)培訓(xùn)的手寫筆記。

這是一個(gè)通過(guò)廣告投放虛假壯陽(yáng)藥的詐騙團(tuán)伙，他們偽裝 “老中醫(yī)” 引流至其他平臺(tái)，將成本十多元的劣質(zhì)中藥以幾百元的價(jià)格售賣，涉案金額超百萬(wàn)元。

成功抓獲犯罪分子的消息傳回到陳言這里時(shí)，他終于松了一口氣。

這不是陳言唯一一次協(xié)助警方破案，作為團(tuán)隊(duì)里的 “藍(lán)軍”崗位，他的工作遠(yuǎn)比想象中多元 —— 日常模擬黑產(chǎn)與用戶視角 “挑刺”，挖掘現(xiàn)有風(fēng)控體系的漏洞，必要時(shí)會(huì)協(xié)助警方根除犯罪團(tuán)伙。

“藍(lán)軍” 這一源于軍事紅藍(lán)對(duì)抗的角色，被引入互聯(lián)網(wǎng)安全治理，源于行業(yè)發(fā)展的現(xiàn)實(shí)需求：如今的黑產(chǎn)已形成專業(yè)化運(yùn)作，從簡(jiǎn)單虛假宣傳升級(jí)為利用 AI 生成違規(guī)素材、搭建復(fù)雜詐騙鏈路，反偵查意識(shí)極強(qiáng)，僅靠線上攔截難以根治，必須線上溯源與線下打擊相結(jié)合。

圖 | 軍旅題材的電視劇中，經(jīng)常有紅藍(lán)軍對(duì)抗場(chǎng)景，圖片來(lái)源于電視劇《藍(lán)軍出擊》

另一方面，在互聯(lián)網(wǎng)廣告生態(tài)中，廣告是鏈接廣告主和用戶的重要紐帶，既助力企業(yè)發(fā)展，也因巨大的流量聚集，成為黑灰產(chǎn)鉆空子的高發(fā)地帶。

因此，這也要求承擔(dān)守護(hù)重任的巨量引擎商業(yè)信任與安全團(tuán)隊(duì)，并非單一的 “審核部隊(duì)”，而是一個(gè)分工細(xì)致、覆蓋全鏈路的龐大體系。

在這個(gè)龐大的體系里，每個(gè) “安全人”都有自己的戰(zhàn)場(chǎng)。

李溪是賬戶安全與履約治理策略崗，他的戰(zhàn)場(chǎng)在APP 投放前的資質(zhì)審核與投放后的履約風(fēng)險(xiǎn)管控上，因?yàn)榻?jīng)常拒絕一些風(fēng)險(xiǎn)APP的上架申請(qǐng)，他也被同事戲稱為全公司最常說(shuō) “不” 的人。

“我們不能放過(guò)任何一個(gè)潛在風(fēng)險(xiǎn)，哪怕是看似合規(guī)的資質(zhì)文件，都可能隱藏虛假信息?！?他曾駁回一款看似資質(zhì)齊全的理財(cái) APP，只因通過(guò)交叉核驗(yàn)發(fā)現(xiàn)其合作機(jī)構(gòu)無(wú)金融牌照，避免了用戶資金受損。

即便同屬游戲行業(yè)治理相關(guān)事務(wù)，不同崗位側(cè)重也迥然不同。

肖娜是負(fù)責(zé)游戲行業(yè)規(guī)則的標(biāo)準(zhǔn)設(shè)計(jì)與運(yùn)營(yíng)，去年加入團(tuán)隊(duì)后，她重構(gòu)了一套差異化的游戲行業(yè)貨不對(duì)板治理標(biāo)準(zhǔn)：“以前是通用標(biāo)準(zhǔn)一刀切，現(xiàn)在要根據(jù)不同場(chǎng)景細(xì)化，比如合集類小游戲，只要用戶點(diǎn)擊素材能直接玩到對(duì)應(yīng)的玩法，就可以支持投放。”

王芹則聚焦內(nèi)容風(fēng)險(xiǎn)與體驗(yàn)治理，通過(guò)監(jiān)控用戶負(fù)反饋數(shù)據(jù)（也稱消費(fèi)者抱怨指數(shù)，CCR）及時(shí)處置違規(guī)素材。

“有次某游戲廠商提報(bào)素材后偷偷關(guān)閉玩法入口，其違規(guī)行為可能引發(fā)整個(gè)生態(tài) 違規(guī)消耗的連鎖反應(yīng)，于是我們通過(guò)數(shù)據(jù)異動(dòng)快速鎖定，避免了大規(guī)模用戶投訴?！?/p>

除此之外，團(tuán)隊(duì)還有負(fù)責(zé)賬戶安全的專員、監(jiān)控線索引流風(fēng)險(xiǎn)的策略師、搭建自動(dòng)化研判系統(tǒng)的技術(shù)人員……

他們?nèi)缤粡埣?xì)密的網(wǎng)，覆蓋廣告從提審到投放、從履約到售后的每一個(gè)環(huán)節(jié)，與黑產(chǎn)展開著持續(xù)的斗智斗勇。

在合作過(guò)的同事眼中，巨量引擎商業(yè)信任與安全團(tuán)隊(duì)是公司最不近人情、最 “拘謹(jǐn)” 的存在。

在互聯(lián)網(wǎng) “先干了再說(shuō)” 的氛圍里，他們常把 “這不能做”“那沒商量” 掛在嘴邊，幾乎每個(gè)人都被貼上 “鐵面無(wú)私” 的標(biāo)簽。

這份 “不近人情”，源于流量誘惑下的風(fēng)險(xiǎn)博弈。

字節(jié)系生態(tài)的龐大流量，讓黑產(chǎn)不惜絞盡腦汁鉆空子：有的廠商提報(bào)素材時(shí)臨時(shí)打開玩法入口，投放后立即關(guān)閉，誘導(dǎo)用戶充值；有的黑產(chǎn)選擇節(jié)假日凌晨通過(guò) “熱更新” 植入違規(guī)內(nèi)容，躲避審查；還有自助客戶選擇夜間集中投放，打完就走，如同 “打地鼠” 般難以根除。

“這些違規(guī)投放必然損害平臺(tái)的商業(yè)信任，守住安全底線是我們安全團(tuán)隊(duì)的底線”，肖娜說(shuō)。

但在實(shí)際的守護(hù)過(guò)程中，難度遠(yuǎn)超想象。

首先，廣告業(yè)務(wù)場(chǎng)景的復(fù)雜性遠(yuǎn)超想象。僅以李溪團(tuán)隊(duì)所從事的APP審核為例，日均就需要審核上百款A(yù)PP，節(jié)假日和寒暑假更是游戲、工具類 APP 的提審高峰，工作量呈幾何級(jí)增長(zhǎng)。

圖 | 涉及的廣告場(chǎng)景極其多，每個(gè)場(chǎng)景都有不同的標(biāo)準(zhǔn)

其次，風(fēng)險(xiǎn)鏈路漫長(zhǎng)且隱蔽，從廣告素材審核到用戶實(shí)際體驗(yàn)，中間可能存在多級(jí)跳轉(zhuǎn)、隱藏功能等漏洞，需要在海量數(shù)據(jù)中捕捉異常。

與之對(duì)應(yīng)的是，黑產(chǎn)對(duì)抗手段不斷升級(jí)，從簡(jiǎn)單規(guī)避到技術(shù)偽裝，持續(xù)挑戰(zhàn)治理極限。

更棘手的是，黑產(chǎn)偏愛在節(jié)假日、大眾放松警惕時(shí)候活躍，以至于安全團(tuán)隊(duì)要隨時(shí)應(yīng)戰(zhàn)——王芹就曾在游泳時(shí)接到緊急通知，上岸后立刻投入工作；李溪?jiǎng)t在爬山時(shí)都背著電腦，“根本不敢斷網(wǎng)”。

圖 | 黑產(chǎn)的部分作案工具，圖源網(wǎng)絡(luò)

應(yīng)對(duì)這些挑戰(zhàn)，團(tuán)隊(duì)有著成熟的方案：全時(shí)段采用 “機(jī)審 + 人工協(xié)同” 模式，機(jī)器自動(dòng)識(shí)別 “涉詐關(guān)鍵詞”“違規(guī)資質(zhì)”，篩選出高風(fēng)險(xiǎn)內(nèi)容后，再人工重點(diǎn)審核。

內(nèi)部實(shí)行輪班值守制度，節(jié)假日提前布控風(fēng)險(xiǎn)趨勢(shì)看板，監(jiān)控用戶投訴量級(jí)變化。

除此之外，定期巡檢已上線的產(chǎn)品，及時(shí)發(fā)現(xiàn)并處置 “虛假售后” 等隱藏問題。

真正的難題，在于無(wú)標(biāo)準(zhǔn)化答案的拉扯 ——“人情”“公平” 與 “效率” 的平衡：

比如說(shuō)制定治理規(guī)則時(shí)，要兼顧廣告主訴求與平臺(tái)安全，在不盈利甚至 “阻礙” 收益的情況下，頂住廣告商不滿。

像肖娜重構(gòu)游戲行業(yè)的審核規(guī)則時(shí)，就因?yàn)橹贫ǖ膶徍藯l件嚴(yán)格，遭到了許多廠商的不滿和詰問：“別的平臺(tái)都沒這么嚴(yán)，你為什么要這么嚴(yán)？”

就算制定了規(guī)則，還面臨著規(guī)則是否能夠落地、公平是否貫徹到底的難題。

李溪進(jìn)入團(tuán)隊(duì)時(shí)，審核標(biāo)準(zhǔn)只有幾頁(yè)紙，如今審核標(biāo)準(zhǔn)已經(jīng)達(dá)到幾十頁(yè)，“滑都滑不到底”外，單是培養(yǎng)審核團(tuán)隊(duì)、讓其理解這些標(biāo)準(zhǔn)就是一個(gè)巨大的挑戰(zhàn)。

此外，當(dāng)大體量客戶違規(guī)被處罰時(shí)，面對(duì)公司同事“說(shuō)情” 與 “施壓”時(shí)，又面臨壓力。

王芹就曾遇到，某頭部游戲廠商的投放素材因 “貨不對(duì)板” 駁回，業(yè)務(wù)團(tuán)隊(duì)多次溝通，希望能通融放行 —— 對(duì)于這款游戲而言，錯(cuò)過(guò)即將到來(lái)的假期流量高峰將損失慘重。

一次次的拉扯后，團(tuán)隊(duì)達(dá)成了共識(shí)：只有 “不近人情”，堅(jiān)持底線，才能推動(dòng)工作開展。

某種程度上來(lái)說(shuō)，他們并非刻意 “為難” 誰(shuí)，而是深諳安全工作的敏感屬性：每一次妥協(xié)退讓，都可能成為風(fēng)險(xiǎn)乘虛而入的突破口。

這支團(tuán)隊(duì)里的大多數(shù)人，都是 “半路出家”。

李溪畢業(yè)后最初做游戲策劃，每天琢磨如何設(shè)計(jì)活動(dòng)讓玩家快樂。

陳言校招時(shí)一心想做產(chǎn)品經(jīng)理，卻誤打誤撞進(jìn)入風(fēng)控領(lǐng)域，原本以為會(huì)像電影里那樣進(jìn)行激烈技術(shù)對(duì)抗。

王芹本科與研究生均主修金融，因?qū)嵙?xí)契機(jī)接觸風(fēng)控后，才踏入這個(gè)領(lǐng)域。

就連經(jīng)歷“對(duì)口”一些的肖娜，也經(jīng)歷了漫長(zhǎng)的適應(yīng)期——她大學(xué)畢業(yè)后在互聯(lián)網(wǎng)行業(yè)深耕多年，做過(guò)風(fēng)控、治理、輿情，卻從未接觸過(guò)游戲領(lǐng)域。

加入團(tuán)隊(duì)時(shí)，她連行業(yè)里如“Roguelike 玩法”這種基礎(chǔ)術(shù)語(yǔ)都聽不懂，只能私下去查，以至于內(nèi)心充滿焦慮，覺得自己 “過(guò)去十年的經(jīng)驗(yàn)幾乎用不上”。

對(duì)比之下，電影里的安全團(tuán)隊(duì)總是高手云集、熱血沸騰并不存在，現(xiàn)實(shí)中的工作，更多是枯燥的數(shù)據(jù)篩查和規(guī)則打磨：

肖娜為制定游戲行業(yè)標(biāo)準(zhǔn)，每天翻看海量廣告素材，總結(jié)宣傳風(fēng)格和風(fēng)險(xiǎn)尺度。

王芹為搭建自動(dòng)化研判系統(tǒng)，反復(fù)與算法、研發(fā)團(tuán)隊(duì)溝通，梳理風(fēng)險(xiǎn)特征。

李溪審核 APP 時(shí)，要逐層點(diǎn)擊功能入口，排查多級(jí) “口袋” 里的隱藏風(fēng)險(xiǎn)，以至于單個(gè) APP 審核時(shí)間從過(guò)去的 20 分鐘，延長(zhǎng)到現(xiàn)在的 30 分鐘甚至 40 分鐘。

除了枯燥，誤解與壓力如影隨形。

團(tuán)隊(duì)的工作成果大多是 “隱性” 的，用戶感受不到風(fēng)險(xiǎn)，就難以察覺他們的付出，這也導(dǎo)致，即使攔截了99% 的涉詐廣告，只要有1起漏放，就會(huì)被用戶質(zhì)疑 “審核不力”。

王芹曾收到用戶留言 “你們?cè)趺醋屵@種東西上線”，卻無(wú)法講述團(tuán)隊(duì)“已攔截上千起類似風(fēng)險(xiǎn)” 的成果。

職業(yè)倦怠與潛在威脅也在悄然侵蝕著團(tuán)隊(duì)成員。

長(zhǎng)期接觸欺詐、低俗內(nèi)容，安全團(tuán)隊(duì)的成員對(duì)風(fēng)險(xiǎn)的 “閾值” 不斷提高。

李溪坦言，看到一些涉黃內(nèi)容，同事們會(huì)覺得 “尺度還好”，但家人會(huì)難以接受。

而且，成熟的審核團(tuán)隊(duì)搭建成本極高，僅新人培訓(xùn)周期長(zhǎng)達(dá) 1 個(gè)月，當(dāng)成熟審核員離職時(shí)，團(tuán)隊(duì)也經(jīng)常面臨壓力。

更讓人揪心的是潛在的人身風(fēng)險(xiǎn)。

李溪第一次被黑產(chǎn)團(tuán)伙通過(guò)操作記錄定位手機(jī)號(hào)、收到對(duì)方短信時(shí)，各種恐懼的心態(tài)涌上心頭，“我當(dāng)時(shí)就在想，他們能找到我，是不是也會(huì)找到我的家人，威脅他們？”

那段時(shí)間，他時(shí)刻活在擔(dān)心家人的安全中。

對(duì)陳言而言，他的工作保密性極高，所以他也不敢跟家人分享自己的“高光時(shí)刻”，以至于家里人以為他在“在互聯(lián)網(wǎng)里干銷售、賣產(chǎn)品”。

這從來(lái)不是外界想象中光鮮的 “計(jì)算機(jī)大神” 工作，反而處處是枯燥的數(shù)據(jù)篩查、無(wú)解的無(wú)奈和不被理解的委屈。

但那些細(xì)微卻溫暖的瞬間，終究成了支撐他們咬牙前行的力量：

王芹上大學(xué)的弟弟妹妹知道她在從事安全治理，玩游戲時(shí)，會(huì)主動(dòng)把 “貨不對(duì)板” 的廣告發(fā)給她，說(shuō) “老姐，快把它干掉”。

而她看到異常數(shù)據(jù)從高位下降、涉詐 APP 攔截量突破 10 萬(wàn)起、用戶信任感調(diào)研的好評(píng)率提升，這些 “隱性成果” 也讓她感受到了價(jià)值。

用肖娜說(shuō)，雖然用戶看不到他們，但貨真價(jià)實(shí)的廣告效果和用戶留存的提升，就是對(duì)工作最好的肯定。

更重要的是行業(yè)責(zé)任的自我認(rèn)同。

他們知道，自己不僅在守護(hù)用戶權(quán)益，更在規(guī)范行業(yè)秩序，做一些更長(zhǎng)遠(yuǎn)的事情。

李溪說(shuō)：“以前做游戲策劃是讓用戶快樂，現(xiàn)在做風(fēng)控是讓用戶安全，兩種價(jià)值同樣重要。”

陳言坦言，看到黑產(chǎn)被判刑，知道自己在 “斷他們的財(cái)路”，這種正義感讓他堅(jiān)持下去。

肖娜則認(rèn)為，他們的工作不僅是糾正貨不對(duì)板的違規(guī)，更是在重構(gòu)行業(yè)生態(tài)，推動(dòng)游戲行業(yè)實(shí)現(xiàn)品質(zhì)升級(jí)。

這份對(duì)價(jià)值的認(rèn)同，讓他們?cè)?“正義” 之外的拉扯中，始終保持前行的力量。

即便團(tuán)隊(duì)已構(gòu)建起成熟的防控體系，他們依然清醒地知道，安全治理沒有 “終點(diǎn)”。

AI 技術(shù)的發(fā)展，讓黑產(chǎn)分子能快速生成大量違規(guī)素材，變體層出不窮；流量愈發(fā)昂貴，黑產(chǎn)愿意投入更高代價(jià)獲取收益，對(duì)抗難度持續(xù)增加。

團(tuán)隊(duì)成員依舊會(huì)有 “哀嚎” 的時(shí)刻：為突發(fā)的風(fēng)險(xiǎn)告警熬夜加班，為復(fù)雜的規(guī)則制定反復(fù)拉扯，為誤解和質(zhì)疑感到委屈。

但他們從未停下腳步。

最近王芹正在和算法團(tuán)隊(duì)溝通優(yōu)化自動(dòng)化研判系統(tǒng)，提升風(fēng)險(xiǎn)識(shí)別效率；細(xì)化行業(yè)規(guī)則，適應(yīng)不斷變化的業(yè)務(wù)場(chǎng)景；加強(qiáng)與行業(yè)多方的協(xié)作，形成治理合力。

他們清醒地知道，完全消除黑產(chǎn)的社會(huì)環(huán)境難以實(shí)現(xiàn)，風(fēng)險(xiǎn)治理沒有 “終點(diǎn)”。

但總要有人站出來(lái)，成為那道 “安全防線”。

作為互聯(lián)網(wǎng)廣告生態(tài)的守護(hù)者，他們始終希望通過(guò)持續(xù)的技術(shù)迭代、流程優(yōu)化與行業(yè)協(xié)作，讓違規(guī)風(fēng)險(xiǎn)少一點(diǎn)，讓用戶的安全感多一點(diǎn)，讓平臺(tái)與合規(guī)廠商共同構(gòu)建的商業(yè)生態(tài)更健康、更長(zhǎng)久地運(yùn)轉(zhuǎn)。

他們深知，“流量擦邊” 本質(zhì)是投機(jī)取巧的行為。當(dāng)這條捷徑被堵死，廣告終將回歸內(nèi)容本身：用真實(shí)的素材、優(yōu)質(zhì)的產(chǎn)品吸引用戶。

而這，正是對(duì)每一位合規(guī)創(chuàng)作者、每一家誠(chéng)信企業(yè)的最好嘉獎(jiǎng)，也是這群 “隱形守護(hù)者” 最想看到的結(jié)果。