2025年，生成式AI技術(shù)重塑廣告產(chǎn)業(yè)格局，在提升效率的同時也帶來違背公序良俗、侵權(quán)抄襲、虛假宣傳、身份偽造等新型風(fēng)險。近日，抖音集團(tuán)旗下綜合數(shù)字化營銷服務(wù)平臺——巨量引擎發(fā)布《2025商業(yè)信任與安全治理報告》，介紹平臺以“AI治理AI”為核心策略，通過規(guī)則升級、技術(shù)攻堅與生態(tài)協(xié)同，構(gòu)建全鏈路安全防護(hù)體系，構(gòu)建讓用戶放心點擊、安心消費的“可信環(huán)境”的舉措及成效。

平臺治理

“AI治AI”理念落地

在數(shù)字化浪潮中，廣告領(lǐng)域人工智能的應(yīng)用覆蓋廣泛、成效顯著，推動行業(yè)進(jìn)入更為精準(zhǔn)和技術(shù)化的“智能營銷”新時代。

一些黑灰產(chǎn)甚至也實現(xiàn)了“AI工業(yè)化”升級，其攻擊范式從機械的腳本執(zhí)行，進(jìn)化為具備規(guī)劃與推理能力的“AI 智能體”，利用多模態(tài)大模型批量炮制高擬真的商品效果圖，通過深度偽造等技術(shù)克隆權(quán)威人士的形象與聲音進(jìn)行背書，甚至能夠模擬人類交互行為，繞過傳統(tǒng)的安全驗證。

據(jù)巨量引擎商業(yè)安全治理策略負(fù)責(zé)人介紹，平臺以“ AI 治理AI”為核心策略，把自研的多模態(tài)大模型打造為應(yīng)對新型風(fēng)險的有效武器。大模型能夠穿透復(fù)雜的內(nèi)容偽裝，理解視頻、音頻、文本間的隱含關(guān)聯(lián)，精準(zhǔn)識別用傳統(tǒng)方法難以發(fā)現(xiàn)的合成與作弊痕跡。同時，平臺打造智能風(fēng)控體系構(gòu)筑高壓防線，依托大模型的深度推理能力，將特定風(fēng)險識別能力的建設(shè)周期從傳統(tǒng)的數(shù)周縮短至小時級，實現(xiàn)對黑灰產(chǎn)的“降維打擊”。

2025年，平臺單日處置黑產(chǎn)賬戶數(shù)量最高突破20萬個，實現(xiàn)了對規(guī)?；舻挠行Ф糁?；智能風(fēng)控體系前置攔截違規(guī)素材累計百億條，關(guān)停違規(guī)賬戶超400萬個，牢牢守住了平臺的內(nèi)容安全與履約安全底線。

在隱私保護(hù)層面，平臺將“隱私號”服務(wù)從核心場景拓展至醫(yī)療、法律、教育等行業(yè)，并覆蓋私信等新場景，實現(xiàn)“隱私保護(hù)+商家轉(zhuǎn)化+用戶體驗”三方共贏，填補后鏈路治理空白。

隱私號是一項核心的隱私保護(hù)技術(shù)。其原理是在用戶與商家銷售之間設(shè)立一個臨時的虛擬號碼作為通信中介，商家銷售僅能聯(lián)系此虛擬號，從而確保用戶的真實手機號全程不泄露。

據(jù)內(nèi)部專項調(diào)研數(shù)據(jù)顯示，經(jīng)過一年的隱私號專項治理，平臺用戶隱私保護(hù)相關(guān)指標(biāo)同比顯著提升，尤其是廣告場景下個人信息違規(guī)收集問題得到有效遏制進(jìn)一步強化了用戶對平臺服務(wù)的信任度。

用戶服務(wù)

首創(chuàng)消費者抱怨指數(shù)

在平臺用戶體驗管理中，顯性的投訴僅是冰山一角，更大量的用戶不滿隱藏在評論、廣告評價等行為數(shù)據(jù)中。為了系統(tǒng)性地捕捉這些“靜默的抱怨”，巨量引擎在廣告領(lǐng)域首創(chuàng)并持續(xù)迭代消費者抱怨指數(shù)（CCR，Customer Complaint Rate）體系。

“CCR指標(biāo)的設(shè)計初衷，就是把用戶的每一條評論、每一次舉報都轉(zhuǎn)化為可落地的治理依據(jù)。”據(jù)巨量引擎商業(yè)安全治理策略負(fù)責(zé)人介紹，CCR 如同一個精密的“聲納系統(tǒng)”，它深度聚合用戶評論、舉報、投訴、廣告評價等多維信號，并將其量化為可分析、可歸因、可行動的數(shù)據(jù)指標(biāo)。

據(jù)統(tǒng)計，2025年，平臺內(nèi)容 CCR同比下降56.2%；履約 CCR同比下降67.1%。這一成績的背后，是基于 CCR 洞察構(gòu)建的“分級精準(zhǔn)治理”模型：

• 對危害極大的金融“債務(wù)優(yōu)化”、非法“特供酒”等，堅決執(zhí)行禁投，從源頭掐斷風(fēng)險；

• 對短劇夸大收益、招聘虛假高薪等“變種”違規(guī)，利用 AI 模型的快速迭代能力，實現(xiàn)“場景化精準(zhǔn)打擊”；

• 對于非故意違規(guī)且有改善意愿的客戶，則提供教育指導(dǎo)，結(jié)合具體違規(guī)情況幫助、引導(dǎo)商家調(diào)優(yōu)廣告投放，平衡商業(yè)體驗。

值得關(guān)注的是，廣告后鏈路履約環(huán)節(jié)雖已脫離平臺管控，但其服務(wù)質(zhì)量直接影響用戶對廣告生態(tài)的信任，尤其是老年人、未成年人等群體，在維權(quán)操作、風(fēng)險識別上更易遇到障礙。

為解決這一痛點，2025年7月底，平臺全面升級服務(wù)系統(tǒng)，重磅推出 “一老一少”廣告服務(wù)保障升級計劃：

對于老年用戶，平臺不僅針對部分情況提供簡化至“零門檻”的舉證流程、7×13小時的超長人工服務(wù)時段，更提供“手把手”的視頻或圖文指引，極大降低了數(shù)字鴻溝帶來的維權(quán)障礙；

對于未成年人相關(guān)的消費問題，平臺則為家長提供標(biāo)準(zhǔn)化的舉證模板，并建立快速響應(yīng)通道，部分案例可實現(xiàn)當(dāng)天解決。

專項上線4個月，即為超過5800名老年與未成年用戶解決了實際困難，問題解決率達(dá)91% 。

商家扶持

從“管控”到“賦能”

過去，廣告素材被平臺拒審，就像收到一份打了紅叉卻沒有任何解析和參考答案的考卷，令廣告主困惑且無助。如今，當(dāng)一條素材被攔截，廣告主收到的將是一份詳盡的“診斷報告”：系統(tǒng)不僅高亮標(biāo)出違規(guī)的具體畫面幀和文本，更能由AI推理出“為何違規(guī)”，并給出“如何修改”的明確建議，甚至提供合規(guī)范例參考。

這是巨量引擎通過深度應(yīng)用自研大模型，將審核拒接的交互體驗進(jìn)行了顛覆性變革的效果：廣告主關(guān)于拒審理由不清的負(fù)向反饋在平臺各產(chǎn)品線均有下降，最高降幅達(dá)18%。

“最好的治理不是讓違規(guī)不易發(fā)生，而是讓優(yōu)質(zhì)內(nèi)容的創(chuàng)作更加容易?！睋?jù)巨量引擎商業(yè)安全治理策略負(fù)責(zé)人介紹，平臺致力于將最前沿的 AI 技術(shù)，轉(zhuǎn)化為廣告主工具箱中觸手可及的生產(chǎn)力組件。如，對存在敏感或違規(guī)內(nèi)容的視頻，AI識別后可自動分析具體違規(guī)情形，根據(jù)商家已有文案、平臺規(guī)則、合規(guī)數(shù)據(jù)庫提供修復(fù)后的合規(guī)建議供商家選用，將商家從數(shù)天反復(fù)修改的困境中解放出來。此外，通過流量激勵，旗幟鮮明地獎勵那些兼具創(chuàng)意、審美與正向社會價值的優(yōu)質(zhì)廣告，引導(dǎo)生態(tài)向高質(zhì)量內(nèi)容進(jìn)化。

治理角色從“裁判”向“教練”轉(zhuǎn)變，從“管控封禁”轉(zhuǎn)向“幫助商家成長”，實現(xiàn)商業(yè)效率和合規(guī)性的平衡，巨量引擎構(gòu)建了一套立體化的廣告主成長賦能體系，為行業(yè)提供了“治理+賦能”雙軌運營模式的實踐范例。

2025年，平臺運營的“規(guī)則中心”已成為廣告主的合規(guī)百科，全年頁面瀏覽量（PV）環(huán)比增長194%；定期舉辦直播課程、發(fā)布行業(yè)風(fēng)險白皮書，將高頻違規(guī)點和新型風(fēng)險案例主動推送給相關(guān)行業(yè)廣告主，全年累計覆蓋人次超300萬。此外，平臺還試點“以考代罰”機制：對于部分輕微違規(guī)行為，不是直接進(jìn)行處罰，而是為廣告主推送相關(guān)的規(guī)則學(xué)習(xí)資料與在線考試，通過考試即可解除提醒。這一人性化舉措獲得了廣告主的廣泛歡迎，參與考試的廣告主點擊率高達(dá)54%。

共建共治

從平臺實踐到行業(yè)共識

不久前，在中國廣告協(xié)會與IAB中國（國際互聯(lián)網(wǎng)廣告行業(yè)組織“互動廣告局”中國分支機構(gòu)）聯(lián)合主辦的 “創(chuàng)享匯年度大賞” 上，巨量引擎 “基于CCR指標(biāo)驅(qū)動的廣告全鏈路生態(tài)治理”項目經(jīng)行業(yè)專家團(tuán)隊嚴(yán)格評審，成功獲評2025年度優(yōu)秀案例。此前，該項目還曾入選北京市市場監(jiān)管局、中國廣告協(xié)會、北京廣告協(xié)會聯(lián)合評定的 “數(shù)字廣告業(yè)高質(zhì)量發(fā)展創(chuàng)新案例”。這標(biāo)志著巨量引擎的平臺治理思路正從平臺實踐走向行業(yè)共識，為破解廣告體驗的“黑箱”評價難題提供了可復(fù)制的路徑。

“平臺的安全治理能力不應(yīng)只服務(wù)于商業(yè)生態(tài)，更應(yīng)轉(zhuǎn)化為服務(wù)社會的正能量?！睋?jù)巨量引擎商業(yè)安全治理策略負(fù)責(zé)人介紹，2025年，平臺開展了一系列社會共治項目：

在文化倡行方面，聯(lián)合北京市公安局反詐中心、國家大劇院，策劃制作了北京首部校園反詐主題微電影《心防—重生之我在大學(xué)干反詐》，助力“無詐校園”建設(shè)；

在公益踐行方面，聯(lián)合字節(jié)跳動員工公益團(tuán)隊走進(jìn)養(yǎng)老院與鄉(xiāng)村小學(xué)，至今已開展6期“AI+ 反詐”公益課；

在法治同行方面，利用數(shù)據(jù)和技術(shù)能力，積極配合公安機關(guān)打擊利用廣告引流進(jìn)行的違法犯罪活動。

中國政法大學(xué)傳播法研究中心副主任朱巍分析認(rèn)為，鑒于AI技術(shù)的復(fù)雜性和應(yīng)用的廣泛性，電商平臺AI治理需要實現(xiàn)跨領(lǐng)域的協(xié)同，包括需要監(jiān)管持續(xù)加碼，需要平臺強化責(zé)任，更需要網(wǎng)民切身參與?！懊鎸I換臉宣傳、深度合成侵權(quán)等新型風(fēng)險，巨量引擎的實踐為行業(yè)提供了‘技術(shù)治違’范本?！敝煳≌f。

???版權(quán)提示：文中圖片未經(jīng)授權(quán)不可轉(zhuǎn)載。

中國消費者報新媒體編輯部出品

來源/中國消費者報·中國消費網(wǎng)

記者/裴瑩

編輯/李曉雨

監(jiān)制/何永鵬 任震宇

互聯(lián)網(wǎng)新聞信息服務(wù)許可證：10120170022
違法和不良信息舉報電話：010 - 88315476