劃重點(diǎn)：

1、近日，抖音舉辦不實(shí)信息開放日，并宣布上線“AI抖音求真”功能�？梢詾橛脩籼峁⿲φ`導(dǎo)性內(nèi)容與謠言的事實(shí)展示及澄清。

2、“AI抖音求真”讓用戶從信息的被動(dòng)接收者，轉(zhuǎn)變?yōu)榭梢灾鲃?dòng)查證、交叉驗(yàn)證的參與者，與用戶共建認(rèn)知防線。

3、謠言治理是抖音2025年最重要的工作之一。大模型助力謠言治理 “發(fā)現(xiàn)即管控”，抖音謠言曝光量下降67%。

4、這場開放日，抖音系統(tǒng)展示了它在謠言治理上的技術(shù)投入、產(chǎn)品實(shí)踐和底層邏輯。一條更立體、更高效的謠言治理鏈路正在形成。

5、謠言的產(chǎn)生與治理，是一場持久戰(zhàn)。最終，清朗網(wǎng)絡(luò)空間的建成，仍需要平臺(tái)、媒體、專業(yè)機(jī)構(gòu)和每一位用戶的攜手同行。

作者 林易

編輯重點(diǎn)君

在信息如水的時(shí)代，謠言是一股最洶涌的暗流。

“廣西‘亮證姐’是公職人員”、“南京紅姐事件11人查出HIV”、“全國小學(xué)門口的辣條都被投毒”……在人人都是自媒體的時(shí)代，這些真假難辨、聳人聽聞的謠言，能夠借助互聯(lián)網(wǎng)，在短時(shí)間內(nèi)觸達(dá)數(shù)以億計(jì)用戶，引發(fā)集體性的情緒波動(dòng)，甚至打破固有認(rèn)知。

謠言治理，已經(jīng)刻不容緩，但又如此艱難�；鹧媛铀俣龋缫殉^了人力極限。平臺(tái)需要像一位辛勞的消防員，依賴媒體報(bào)道或機(jī)構(gòu)發(fā)聲作為火警信號(hào)，再由人工沖入現(xiàn)場，回查、下架、攔截，處置周期往往以天為單位。

如今，抖音選擇借助AI的力量治理謠言。抖音不實(shí)信息治理負(fù)責(zé)人李博告訴我們，“謠言治理是抖音2025年最重要的工作之一”。支撐這項(xiàng)工作的，是一個(gè)被內(nèi)部訓(xùn)練成“謠言鑒定專家”的智能體，以及一個(gè)剛剛上線、日均曝光量預(yù)計(jì)可達(dá)1億次的新功能——AI抖音求真。

這套AI大模型驅(qū)動(dòng)的新機(jī)制，將治理鏈路從“被動(dòng)響應(yīng)”轉(zhuǎn)為“發(fā)現(xiàn)即管控”，將處置時(shí)效從天縮短至小時(shí)。引入以來，近一個(gè)季度，抖音平臺(tái)上的謠言曝光量下降了約67%。大模型識(shí)別準(zhǔn)確率達(dá)到85%，并且仍在持續(xù)提升。

這不僅是一次技術(shù)升級(jí)，更是平臺(tái)治理理念的進(jìn)化。隨AI技術(shù)發(fā)展，內(nèi)容創(chuàng)作越來越便利，制造謠言也更為輕易。面對謠言治理難度的持續(xù)升級(jí)，抖音通過大模型技術(shù)，構(gòu)筑一道新的防線。

謠言治理智能體：一個(gè)“謠言鑒定專家”的誕生

“想要實(shí)現(xiàn)完全沒有謠言是非常困難的，也幾乎是不可能的�！崩畈┰诜窒頃r(shí)很坦誠。抖音的目標(biāo)并非徹底消滅謠言，而是盡最大努力治理那些具有誤導(dǎo)性、公共影響力和可驗(yàn)證性的不實(shí)信息。

為了實(shí)現(xiàn)這個(gè)務(wù)實(shí)的目標(biāo)，抖音首先需要精準(zhǔn)定義自己的主要“敵人”。明星緋聞八卦、飯圈爆料，這類內(nèi)容雖然也可能帶來虛假感，但因其公共危害性高或難以查證，通常會(huì)通過侵權(quán)治理的方式解決。而那些可能對公眾身心健康或財(cái)產(chǎn)安全造成危害，且能夠被證偽的信息，才是治理的核心對象。

過去，識(shí)別這些對象依賴一套相對傳統(tǒng)的七步流程：預(yù)警、分析、搜證、標(biāo)記、辟謠、處置和攔截。整個(gè)鏈條的關(guān)鍵在于預(yù)警環(huán)節(jié)，即如何發(fā)現(xiàn)謠言線索。這在很大程度上依賴外部信號(hào)，比如媒體報(bào)道、其他業(yè)務(wù)團(tuán)隊(duì)的舉手反饋。這套流程的問題是“慢”和“窄”。慢，在于反應(yīng)滯后，往往需要等到事件發(fā)酵才能介入；窄，在于人力有限，只能關(guān)注到最頭部的少數(shù)問題。

大模型的介入，帶來改變。抖音借助謠言治理智能體（Agent）的能力，它像一個(gè)不知疲倦的、24小時(shí)在線的“謠言鑒定專家”，主動(dòng)在海量內(nèi)容中嗅探風(fēng)險(xiǎn)。

以7月份“老人乘高鐵享受新優(yōu)惠折扣”的謠言為例，我們可以看到這位“專家”的工作流程：

第一步是內(nèi)容召回與信息提取。當(dāng)一條視頻內(nèi)容的熱度達(dá)到某個(gè)閾值，它就會(huì)被大模型召回。這個(gè)閥值并非要等到上熱搜，可能還處于萌芽期就會(huì)觸發(fā)。智能體首先對視頻進(jìn)行多模態(tài)拆解，提取畫面、音頻、文字等信息，并迅速提煉出核心主旨：“7月1日起，老年人坐火車有新規(guī)定，買票可享受折扣”。

第二步是聯(lián)網(wǎng)檢索與信源甄別。隨后，智能體自動(dòng)聯(lián)網(wǎng)，在全網(wǎng)檢索相關(guān)信息。它的特別之處在于，會(huì)重點(diǎn)優(yōu)先檢索權(quán)威信源，如權(quán)威媒體、政府官網(wǎng)、以及抖音長期積累的內(nèi)部辟謠庫。在這個(gè)案例中，它迅速找到了12306客服的否認(rèn)、官方熱線的澄清以及上海辟謠平臺(tái)發(fā)布的相關(guān)內(nèi)容。

第三步是謠言研判與結(jié)論輸出。智能體將檢索到的權(quán)威信息輸入其“研判模塊”。該模塊基于精準(zhǔn)定義謠言的能力，即判斷內(nèi)容是否具備“誤導(dǎo)性”、“公共影響力”和“可證偽”的特征，給出最終結(jié)論：該內(nèi)容明確捏造事實(shí)，容易誤導(dǎo)公眾，風(fēng)險(xiǎn)等級(jí)高。

最后一步是處置、入庫與回掃。一旦結(jié)論生成，處置指令便會(huì)發(fā)出。原始視頻被下架，同時(shí)該謠言點(diǎn)被納入謠言庫。智能體會(huì)立即在全站范圍內(nèi)進(jìn)行“回掃”，排查并處置所有與此謠言點(diǎn)相關(guān)的存量和新增內(nèi)容，最大限度遏制其傳播。

整個(gè)過程，從發(fā)現(xiàn)到大范圍遏制，時(shí)間被壓縮到小時(shí)級(jí)。

這套智能體的技術(shù)底座，是字節(jié)跳動(dòng)豆包大模型。但抖音并非簡單地調(diào)用，而是根據(jù)謠言治理這一特定業(yè)務(wù)場景，對其進(jìn)行了大量的后訓(xùn)練（post-training），使其長成業(yè)務(wù)需要的形態(tài)。這包括加強(qiáng)其多模態(tài)理解能力，以更精準(zhǔn)地解析視頻內(nèi)容；優(yōu)化RAG（檢索增強(qiáng)生成）技術(shù)，以高效篩選權(quán)威信息；以及訓(xùn)練更智能的研判模型，使其判斷邏輯更貼近一位專業(yè)的不實(shí)信息治理專家。

目前，這個(gè)“謠言鑒定專家”的判斷準(zhǔn)確率達(dá)到了85%以上。對于置信度最高的判斷，機(jī)器會(huì)自動(dòng)執(zhí)行處置；而對于那些置信低的內(nèi)容則會(huì)進(jìn)入人工審核流程，確保最終準(zhǔn)確率與人審相當(dāng)。

“不當(dāng)臆測內(nèi)容”大模型：平衡信息真實(shí)性與表達(dá)自由

除了可以明確證偽的謠言，很多平臺(tái)的內(nèi)容生態(tài)中，還不可避免地存在大量灰色地帶的內(nèi)容。抖音將這類內(nèi)容定義為“缺少依據(jù)的不當(dāng)臆測”，也就是大眾通常理解的“陰謀論”。

這類內(nèi)容主要有幾個(gè)典型特征：

一是觀點(diǎn)放大。比如，將個(gè)別“三無辣條”的情況，推斷為“全國小學(xué)門口都被投毒”。

二是因果牽強(qiáng)。比如，將受消費(fèi)需求、收成、關(guān)稅等多種因素影響的大蝦降價(jià)，直接歸因于“核廢水污染”。

三是認(rèn)知差異。比如，對于“阿波羅登月造假”這類老生常談的話題，盡管多方已澄清，但不同用戶群體間仍存在巨大的認(rèn)知鴻溝。

這些內(nèi)容的棘手之處在于，它們很難被直接證偽，且其真?zhèn)闻袛嗯c用戶的主觀認(rèn)知強(qiáng)相關(guān)。直接將其打?yàn)椤爸{言”并下架，可能會(huì)引發(fā)更大的爭議。

抖音的策略是限制其大范圍傳播，為此定制了一個(gè)不當(dāng)臆測大模型。它不判斷內(nèi)容的真?zhèn)危菍Ｗ⒂诜治鲆曨l內(nèi)容本身是否存在明顯的邏輯謬誤，如論據(jù)不足、因果關(guān)聯(lián)牽強(qiáng)等。

該模型會(huì)結(jié)合內(nèi)容本身的論據(jù)判斷以及外部的用戶舉報(bào)等信號(hào)，對視頻進(jìn)行評估。對于高置信度為“不當(dāng)臆測”的內(nèi)容，直接進(jìn)行處置；對于疑似內(nèi)容，則交由人工進(jìn)一步研判。據(jù)介紹，該模型的準(zhǔn)確率在90%左右，日均能處置約1.5萬條相關(guān)內(nèi)容。

這種處理方式，體現(xiàn)了平臺(tái)在治理過程中的一種克制和審慎。它希望在維護(hù)信息真實(shí)性與保護(hù)表達(dá)自由之間尋找一個(gè)平衡點(diǎn)，即不輕易給觀點(diǎn)定性，又要限制沒有事實(shí)依據(jù)的觀點(diǎn)對公共輿論場造成過度影響。

AI抖音求真：與用戶共建認(rèn)知防線

“治理可以大幅減少謠言，但卻很難徹底讓謠言消失�！薄癆I抖音求真”運(yùn)營負(fù)責(zé)人吳榮奎認(rèn)為，單純的“堵”和“刪”是不夠的，更重要的是與用戶一起，建立起一道認(rèn)知防線。

這正是新上線的“AI抖音求真”功能所承載的核心使命。它脫胎于2025年4月上線的“抖音辟謠卡”，并進(jìn)行了全面升級(jí)，旨在通過“搜索場景精準(zhǔn)觸達(dá)+推薦場景主動(dòng)提示”的雙路徑，將事實(shí)和真相更主動(dòng)、更全面地呈現(xiàn)給用戶。

在搜索場景，當(dāng)用戶搜索一個(gè)謠言或存疑信息時(shí)，搜索結(jié)果頁會(huì)直接呈現(xiàn)一張“求真卡”。與舊版辟謠卡相比，新版的“AI抖音求真卡”變化很大。它借助大模型能力，全網(wǎng)搜集關(guān)于該謠言點(diǎn)的權(quán)威信息，并將其匯總呈現(xiàn)。頁面內(nèi)容更加豐富，包括事件溯源、澄清信息、權(quán)威媒體報(bào)道、當(dāng)事人發(fā)聲等。這背后，是人工策略與機(jī)器能力的結(jié)合，力求對一個(gè)謠言點(diǎn)的不同表達(dá)的相關(guān)搜索詞，都能實(shí)現(xiàn)精準(zhǔn)覆蓋。

在視頻流場景，這是“AI抖音求真”全新上線的功能。大模型會(huì)在抖音上主動(dòng)尋找那些容易產(chǎn)生誤解或談及疑似不實(shí)信息的視頻。在這些視頻的左下方，會(huì)出現(xiàn)一個(gè)提示框，寫著“AI求真 XXX事件核查”。用戶點(diǎn)擊后，即可跳轉(zhuǎn)到詳細(xì)的落地頁，了解視頻中所涉及內(nèi)容的真實(shí)情況。

吳榮奎特別強(qiáng)調(diào)，這個(gè)功能主要針對的是“疑似虛假”或“容易產(chǎn)生誤解”的視頻。這意味著，視頻本身講述的可能是一件真實(shí)的事情，但由于創(chuàng)作者的表達(dá)方式、剪輯手法等原因，可能會(huì)對用戶造成誤導(dǎo)。而對于那些被明確判定為謠言的視頻，它們早已被謠言治理Agent“干掉”了。

目前，這項(xiàng)新功能剛剛于9月15日上線，日均曝光量估測可達(dá)1億左右。由于需要確保大模型識(shí)別的準(zhǔn)確率，初期覆蓋的視頻量還相對有限，但未來會(huì)不斷擴(kuò)大覆蓋面。

此外，“AI抖音求真”還與抖音的熱點(diǎn)專題進(jìn)行了結(jié)合。在一些備受關(guān)注的熱點(diǎn)事件（如“張水華護(hù)士”事件）專題頁中，會(huì)加入“AI求真”組件，將該事件下的所有相關(guān)謠言點(diǎn)進(jìn)行匯總，幫助用戶一覽事件中的事實(shí)全貌。

顯然，從“辟謠卡”到“AI抖音求真”，改變的不止是名稱和功能，更是平臺(tái)與用戶溝通方式的轉(zhuǎn)變。它讓用戶從信息的被動(dòng)接收者，轉(zhuǎn)變?yōu)榭梢灾鲃?dòng)查證、交叉驗(yàn)證的參與者。

網(wǎng)絡(luò)辟謠：一場沒有終點(diǎn)的“持久戰(zhàn)”

盡管AI帶來了前所未有的治理效率，但抖音辟謠的分享者們在整場活動(dòng)中反復(fù)強(qiáng)調(diào)一個(gè)詞：“持久戰(zhàn)”。謠言的產(chǎn)生與治理，是一場永恒的、動(dòng)態(tài)的博弈，挑戰(zhàn)依然巨大。
抖音辟謠團(tuán)隊(duì)舉了幾個(gè)例子：

一是信源污染。比如，一些自媒體甚至大V將政策的補(bǔ)充說明錯(cuò)誤解讀為“新規(guī)”，造成信源污染，增加了平臺(tái)查證的難度。

二是事件反轉(zhuǎn)。比如，“重癥老人銀行取款”事件在發(fā)酵過程中多次反轉(zhuǎn)，真相與謠言的界限在不同階段變得模糊。

三是等待辟謠結(jié)論的周期長。比如，“協(xié)和4+4”事件中，真假信息魚龍混雜，在官方最終通報(bào)出來前，內(nèi)容平臺(tái)難以對所有信息點(diǎn)做出準(zhǔn)確判斷。

對于這類動(dòng)態(tài)發(fā)展的熱點(diǎn)事件，抖音的態(tài)度極為審慎。據(jù)介紹，抖音會(huì)啟動(dòng)“爭議熱點(diǎn)事件管理規(guī)則”，對那些社會(huì)關(guān)注度高但事實(shí)尚不清楚的事件進(jìn)行熱度限制，等待更權(quán)威的信息披露。同時(shí)，對于事件中一些明顯荒謬或無依據(jù)的猜測，會(huì)進(jìn)行治理，但在治理尺度上會(huì)進(jìn)行平衡。

在問答環(huán)節(jié)，針對大模型85%準(zhǔn)確率意味著可能存在15%誤判的疑慮，抖音不實(shí)信息治理業(yè)務(wù)代表解釋，平臺(tái)為用戶提供了站內(nèi)申訴和客服反饋渠道，如果核查確認(rèn)誤判，會(huì)解除相關(guān)處置。

而面對AI生成謠言（AIGC a rumor）的挑戰(zhàn)。從AI生成內(nèi)容的角度，抖音會(huì)通過技術(shù)手段識(shí)別或鼓勵(lì)創(chuàng)作者為AI生成內(nèi)容打標(biāo)。但“AI生成”并不等同于虛假；另一方面，無論內(nèi)容是AI還是人編造的，都會(huì)被納入智能體的研判流程，其生成方式只作為輔助信號(hào)。

此外，對于辟謠的“收益”和“成本”如何計(jì)算的問題，抖音的答案非常清晰，用戶對于平臺(tái)的信任，是無法計(jì)算成本的：“打掉劣質(zhì)內(nèi)容產(chǎn)生的流量，會(huì)釋放給更多優(yōu)質(zhì)的創(chuàng)作者，這對于整個(gè)內(nèi)容生態(tài)和平臺(tái)長期發(fā)展都是更好的事�！�

結(jié)語

這場開放日，抖音系統(tǒng)地展示了它在謠言治理上的技術(shù)投入、產(chǎn)品實(shí)踐和底層邏輯。我們能很直觀地感受到，從依賴人工被動(dòng)防御，到憑借AI主動(dòng)進(jìn)攻，再到通過產(chǎn)品引導(dǎo)用戶共建認(rèn)知防線，一條更立體、更高效的謠言治理鏈路正在形成。

同時(shí)，值得注意的是，不實(shí)信息治理是一場持久戰(zhàn)。技術(shù)在迭代，謠言的形式也在進(jìn)化。AI可以解決效率問題，但無法替代事實(shí)查證的艱辛，也無法抹平人與人之間的認(rèn)知差異。

“AI抖音求真”提供了一個(gè)新解法，它讓真相的呈現(xiàn)多了一個(gè)高效渠道。但最終，清朗網(wǎng)絡(luò)空間的建成，仍需要平臺(tái)、媒體、專業(yè)機(jī)構(gòu)和每一位用戶的攜手同行。

這場戰(zhàn)爭，沒有終點(diǎn)。