來 源 | 綜合證券時報、央視新聞等

9月1日起，《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》，即日起將正式施行。這意味著，對于生成式AI的生成內(nèi)容，必須有明顯的標(biāo)識提示，告知用戶這是AI生成內(nèi)容，避免對大眾產(chǎn)生信息誤導(dǎo)。同時還要有隱藏式的標(biāo)識，能夠進(jìn)行溯源。

按辦法規(guī)定，用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進(jìn)行標(biāo)識。換言之就是分享AI生成內(nèi)容時，也必須對此進(jìn)行明確說明。

標(biāo)識辦法明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。標(biāo)識辦法中明確，平臺在服務(wù)提供者的內(nèi)容上架或上線時要進(jìn)行審核，核驗生成合成內(nèi)容標(biāo)識，對未標(biāo)識或疑似生成內(nèi)容要添加風(fēng)險提示，從而在傳播端阻斷虛假信息擴散。

微信：AI生成合成的內(nèi)容將添加顯式標(biāo)識和隱式標(biāo)識

微信公眾平臺運營中心今日下午也發(fā)布公告稱，為進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識，平臺會對AI生成合成的內(nèi)容添加顯式標(biāo)識和隱式標(biāo)識。

用戶通過平臺獲取的AI生成合成內(nèi)容，將帶有顯式標(biāo)識和隱式標(biāo)識。平臺也會對可能是AI生成合成的內(nèi)容進(jìn)行相應(yīng)提示，以便用戶清晰辨識。

為避免發(fā)布的內(nèi)容在傳播過程中引起混淆或誤認(rèn)，用戶發(fā)布的內(nèi)容為AI生成合成的，發(fā)布時需主動進(jìn)行聲明。

標(biāo)識示例

1、平臺標(biāo)識提示

2、用戶主動聲明

9月1日，抖音發(fā)布《關(guān)于升級AI內(nèi)容標(biāo)識功能的公告》，進(jìn)一步規(guī)范平臺上的AI內(nèi)容創(chuàng)作與傳播?！豆妗凤@示，抖音已上線兩項核心功能：一是AI內(nèi)容標(biāo)識功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識，方便用戶辨別；二是AI內(nèi)容元數(shù)據(jù)標(biāo)識讀寫功能，可識別并寫入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。

快手發(fā)布公告稱，平合已上線AI內(nèi)容標(biāo)識，會在AI生成的內(nèi)容中添加“AI生成”顯式標(biāo)識以及嵌入文件元數(shù)據(jù)中的隱式標(biāo)識。如果用戶上傳的內(nèi)容明確由AI生成或疑似由AI生成，平臺會在內(nèi)容周邊進(jìn)行顯著提示。

9月1日，DeepSeek官微發(fā)布關(guān)于AI生成合成內(nèi)容標(biāo)識的公告。公告稱，DeepSeek已在平臺內(nèi)對AI生成合成內(nèi)容添加標(biāo)識，并明確提醒用戶相關(guān)內(nèi)容由AI生成。用戶不得惡意刪除、篡改、偽造、隱匿此類生成內(nèi)容標(biāo)識，不得利用AI制作、傳播虛假信息、侵權(quán)信息以及從事任何違法違規(guī)活動。

注：本文部分配圖由AI生成

AI生成內(nèi)容必須“亮明身份”

據(jù)央視新聞等報道 ，截至目前，我國已有490余款大模型在國家網(wǎng)信辦完成備案，240余款大模型在省級網(wǎng)信辦完成登記，我國生成式人工智能產(chǎn)品的用戶規(guī)模已達(dá)2.3億人。

作為我國人工智能領(lǐng)域首部“辦法+強標(biāo)”的組合拳，強制性的國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》于9月1日與《人工智能生成合成內(nèi)容標(biāo)識辦法》同步施行，在監(jiān)管維度建立審核、監(jiān)測、追責(zé)的閉環(huán)機制，在技術(shù)維度規(guī)范標(biāo)識體系并預(yù)留創(chuàng)新空間。

專家認(rèn)為，“標(biāo)識辦法”中進(jìn)行檢測分三個層次，如果平臺是從元數(shù)據(jù)中檢測出隱式標(biāo)簽，那么平臺就可以標(biāo)識這個內(nèi)容是AI生成的，但是如果它只是通過一些算法推測這個內(nèi)容是AI生成的，它應(yīng)該是標(biāo)識為疑似AI生成。

法學(xué)專家建議，首先網(wǎng)絡(luò)服務(wù)提供者要公開算法原理及誤判樣本數(shù)據(jù)，提升透明度；其次要設(shè)立申訴渠道，允許用戶提交證據(jù)申請復(fù)核，從而保證監(jiān)管與創(chuàng)作自由的平衡。

據(jù)專家介紹，在《人工智能生成合成內(nèi)容標(biāo)識辦法》以及強制性的國家標(biāo)準(zhǔn)同步施行的情況下，標(biāo)識的存在也會對大規(guī)模搬運人工智能直接生成內(nèi)容的行為進(jìn)行攔截，讓內(nèi)容平臺有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運營成本。

據(jù)法學(xué)專家介紹，“標(biāo)識辦法”與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接。其中，服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，相關(guān)材料可能涉及標(biāo)識的技術(shù)細(xì)節(jié)，如水印算法、元數(shù)據(jù)格式、服務(wù)商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現(xiàn)違法內(nèi)容時快速識別內(nèi)容來源，追蹤到服務(wù)提供者或者用戶。

標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識

據(jù)了解，人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。

顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識。

隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。

《標(biāo)識辦法》中明確服務(wù)提供者應(yīng)當(dāng)對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識，隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息；應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標(biāo)識的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識管理要求。

據(jù)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法

》國家標(biāo)準(zhǔn)，文本內(nèi)容顯式標(biāo)識方法要求：

標(biāo)識形式：文本內(nèi)容顯式標(biāo)識應(yīng)采用文字或角標(biāo)形式。其中人工智能要素包含“人工智能”或“AI”，表明使用人工智能技術(shù)；生成合成要素包含“生成”和/或“合成”，表明內(nèi)容制作方式為生成和/或合成。

角標(biāo)形式標(biāo)識要素是指，角標(biāo)形式的文本內(nèi)容顯式標(biāo)識應(yīng)包含“AI”。

標(biāo)識位置：文本內(nèi)容顯式標(biāo)識應(yīng)位于以下一個或多個位置，如文本的起始位置、文本的末尾位置、文本的中間適當(dāng)位置。

標(biāo)識清晰度的要求是：文本內(nèi)容顯式標(biāo)識使用的字型和顏色應(yīng)清晰可辨！

視頻內(nèi)容顯式標(biāo)識方法如下：

a) 視頻內(nèi)容顯式標(biāo)識應(yīng)采用文字提示。

b) 視頻內(nèi)容顯式標(biāo)識應(yīng)同時包含以下要素:

1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技術(shù);

2) 生成合成要素:包含“生成”和/或“合成”,表明內(nèi)容制作方式為生成和/或合成。

c) 視頻內(nèi)容顯式標(biāo)識應(yīng)位于視頻起始畫面,可位于視頻末尾和中間適當(dāng)位置。

d) 視頻內(nèi)容顯式標(biāo)識應(yīng)位于視頻畫面的邊或角。

e) 視頻內(nèi)容顯式標(biāo)識使用的字型應(yīng)清晰可辨。

f) 視頻內(nèi)容顯式標(biāo)識的文字高度不應(yīng)低于畫面最短邊長度的5%。

g) 在視頻正常播放速度下,視頻內(nèi)容顯式標(biāo)識持續(xù)時間不應(yīng)少于2s。

隱式標(biāo)識應(yīng)包括以下要素:

1) 生成合成標(biāo)簽要素:內(nèi)容的人工智能生成合成屬性信息;

2) 生成合成服務(wù)提供者要素:生成合成服務(wù)提供者的名稱或編碼;

3) 內(nèi)容制作編號要素:生成合成服務(wù)提供者對該內(nèi)容的唯一編號;

4) 內(nèi)容傳播服務(wù)提供者要素:內(nèi)容傳播服務(wù)提供者的名稱或編碼;

5) 內(nèi)容傳播編號要素:內(nèi)容傳播服務(wù)提供者對該內(nèi)容的唯一編號。

創(chuàng)作者應(yīng)怎么辦

根據(jù)《標(biāo)識辦法》第十條，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識，不得為他人實施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益。

《標(biāo)識辦法》第九條還規(guī)定，用戶申請服務(wù)提供者提供沒有添加顯式標(biāo)識的生成合成內(nèi)容的，服務(wù)提供者可以在通過用戶協(xié)議明確用戶的標(biāo)識義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識的生成合成內(nèi)容，并依法留存提供對象信息等相關(guān)日志不少于六個月。

如果發(fā)布者寫了一篇文章，或者做了一段視頻，90%的內(nèi)容都是我自己寫的，只有10%的素材或者內(nèi)容是用了AI生成，那我到底該不該在發(fā)布內(nèi)容時進(jìn)行聲明和標(biāo)注？

公眾號“數(shù)字生命卡茲克”建議，根據(jù)第十條：用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進(jìn)行標(biāo)識。

只要你的成品里實際呈現(xiàn)了AI產(chǎn)出，哪怕只占10%，也要聲明，這套辦法是按是否包含來管，不按占比來豁免。用戶在公開發(fā)布前，需要主動聲明并把顯式標(biāo)識貼上去，這是寫進(jìn)條文的硬要求。平臺那邊也會讀元數(shù)據(jù)、掃顯式痕跡，如果沒看到你標(biāo)，又感覺像是AI，它會自己加一個疑似或可能的提示，你的賬號的權(quán)重反而更被動。

但是如果我們一般只讓AI改改錯字、潤色語序，這種情況行業(yè)里普遍解讀是純粹的輕度潤色不構(gòu)成“生成合成內(nèi)容”，一般不需要標(biāo)。但一旦有可辨識的AI段落、AI配圖、AI配音，或者對內(nèi)容做了實質(zhì)性改寫，就比如進(jìn)入標(biāo)識范圍。然后再發(fā)布的時候，注意一下，別用截屏、重新編碼、導(dǎo)出時清理元數(shù)據(jù)這些騷操作把隱形標(biāo)識洗沒了，這既可能會導(dǎo)致內(nèi)容平臺給你打標(biāo)，賬號降權(quán)，還可能踩到刪改標(biāo)識的紅線。

記者實測：多平臺標(biāo)識落地顯差異

據(jù)勞動報報道，記者實測抖音、微信視頻號、微博等10余家主流平臺，并梳理平臺公開舉措發(fā)現(xiàn)，頭部平臺已基本完成標(biāo)識功能部署，但中小平臺落實仍存滯后，行業(yè)合規(guī)進(jìn)程呈現(xiàn)分化。

抖音發(fā)布AI圖文時，發(fā)布頁新增“AI生成內(nèi)容”勾選框，勾選后內(nèi)容右下角自動浮現(xiàn)“AI生成”水?。晃⑿乓曨l號在“高級設(shè)置”中設(shè)聲明選項，未聲明內(nèi)容上傳時會觸發(fā)“疑似AI生成，請補充標(biāo)識”的系統(tǒng)提示，未補填者需經(jīng)人工二次審核。微博的標(biāo)識入口需在“分享范圍”二級菜單中查找，未聲明內(nèi)容雖可發(fā)布，但信息流會標(biāo)注“可能為AI生成”。今日頭條管控更嚴(yán)，用戶用內(nèi)置AI工具創(chuàng)作時，系統(tǒng)自動添加“AI生成”角標(biāo)，導(dǎo)出文件元數(shù)據(jù)還包含服務(wù)商編碼、生成時間等隱式標(biāo)識。

新規(guī)實施前，主流平臺已密集推進(jìn)合規(guī)準(zhǔn)備。8月29日，抖音更新社區(qū)規(guī)則，明確未標(biāo)識AI內(nèi)容將被限流，多次違規(guī)封號；8月31日，騰訊元寶團隊宣布AI生成內(nèi)容同步嵌入顯式水印與隱式元數(shù)據(jù)，接收平臺可通過接口核驗標(biāo)識；微信視頻號同步上線“AI內(nèi)容檢測模型”，對未聲明疑似內(nèi)容二次審核，通過后播放頁會加“AI生成”浮窗。

技術(shù)層面，小紅書牽頭編制《圖片模態(tài)元數(shù)據(jù)標(biāo)識實踐指南》，虹軟科技等企業(yè)全量部署符合GB 45438-2025標(biāo)準(zhǔn)的元數(shù)據(jù)系統(tǒng)，國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心也于9月1日上線“AI內(nèi)容標(biāo)識核驗工具”，支持公眾離線檢測文件元數(shù)據(jù)。

隱式標(biāo)識檢測需專業(yè)工具，記者用開源工具“AI-Watermark-Verifier”檢測某平臺AI圖片時，雖解析出服務(wù)商編碼，但生成時間信息存在誤差。得物、有柿等中小平臺因技術(shù)不足，仍靠人工審核識別AI內(nèi)容，效率低且誤判率高。中國政法大學(xué)張凌寒教授指出，當(dāng)前《辦法》對篡改標(biāo)識處罰較輕（最高10萬元罰款），需完善民事賠償條款強化震懾。

國家網(wǎng)信辦相關(guān)負(fù)責(zé)人表示，下一步將重點檢查平臺隱式標(biāo)識核驗?zāi)芰Γ苿咏ⅰ皹?biāo)識-檢測-追溯”閉環(huán)。隨著監(jiān)管細(xì)則完善，AI行業(yè)正從“野蠻生長”向“可追溯、可解釋”轉(zhuǎn)型，而中小平臺的合規(guī)進(jìn)度，將成為影響行業(yè)整體治理成效的關(guān)鍵。