本文系作者參加九派新聞「九派圓桌」直播《AI 生成內(nèi)容必須亮身份，如何阻斷虛假信息傳播？》議題討論上的發(fā)言整理而成。

來源：九派新聞

文 | 劉興亮

微信編輯：魏國峻

審核：林夕合

【1】《辦法》要解決的三個問題：哪些是AI生成的？是誰生成的？從哪里生成的？

從今年9月1日起，我們每次與AI的互動都將多出一個清晰的數(shù)字印記——由國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》已正式實施，這標(biāo)志著我國對AI生成內(nèi)容的治理進(jìn)入了「強(qiáng)標(biāo)識」時代。

現(xiàn)在AI生成的內(nèi)容，早已不局限于文本，還能生成圖片、音樂、聲音、視頻，很多時候足以以假亂真。這次出臺的辦法，正是源于現(xiàn)實中的諸多問題。

就拿我自己來說，我有一個用了快四年的數(shù)字人。曾經(jīng)，有一家機(jī)構(gòu)為了推廣自家數(shù)字人業(yè)務(wù)，在未經(jīng)我授權(quán)的情況下，從網(wǎng)上找了我的聲音、視頻素材，生成了一個「我」的數(shù)字人用于推廣。我找過去交涉，對方還很詫異，說網(wǎng)上公開的素材，他們也沒惡意，怎么就不能用？可即便沒有惡意，也得經(jīng)過本人授權(quán)吧？最后反倒顯得我「事多」，其實對方確實沒多大惡意，只是想推廣技術(shù)，但未經(jīng)授權(quán)的使用本身就不合規(guī)。

還有兩個真實案例更值得關(guān)注。一次我參加某電視臺節(jié)目時，他們給我看了個案例：一對大學(xué)生情侶吵架分手后，男生生氣之下用女生的圖像和聲音生成了很多視頻，在同學(xué)群里用女生的口吻說她壞話，這已經(jīng)涉及民事侵權(quán)了。另外，某著名高校的一位教授，還被AI合成的「朋友」視頻騙走了400萬，對方的聲音、視頻都是假的，卻騙走了真金白銀。

我自己的數(shù)字人已經(jīng)迭代到4.0版本，每一次迭代都更逼真。一開始我還會主動標(biāo)注「本視頻由數(shù)字人出鏡」，可后來沒再過多標(biāo)注，結(jié)果粉絲經(jīng)常留言困惑：「這是真人錄的還是數(shù)字人生成的？」有時我發(fā)真人錄制的視頻，他們反而會問「表情怎么這么假，是不是數(shù)字人？」其實用戶有權(quán)知道內(nèi)容是AI生成、真人出鏡，還是手工打造的，也有權(quán)知道生成者是誰、來源在哪。這次《辦法》的核心，就是推動AI生成內(nèi)容從生成到傳播各環(huán)節(jié)的全流程安全管理，讓這些問題有明確答案。

就如我剛剛提到的例子，如今AI的「深度偽造」功能已經(jīng)給我們的生活帶來了麻煩。AIGC發(fā)展太快，在文本、圖像、音視頻乃至各類虛擬場景中全面滲透，普通老百姓很容易被誤導(dǎo)。這次《辦法》的出臺，核心就是為了提升內(nèi)容可信度，遏制深度偽造和AI邀約的擴(kuò)散，明確各類主體的責(zé)任，說到底就是該標(biāo)就標(biāo)，把關(guān)鍵信息說清楚。

之前我們也有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》，但很多細(xì)則沒做到位。這次的《辦法》，其實是對過去兩項規(guī)定的細(xì)化和補(bǔ)充，進(jìn)一步明確了標(biāo)識實施的具體規(guī)范，重點是要解決三個核心問題：哪些是AI生成的？是誰生成的？從哪里生成的？

【2】文本領(lǐng)域檢測的兩個核心指標(biāo)：「困惑度」和「突發(fā)性」

我想《辦法》實施后，企業(yè)的負(fù)擔(dān)肯定會加重。企業(yè)要承擔(dān)主體責(zé)任，比如給生成的文本、音頻、圖片、視頻、虛擬場景添加顯性標(biāo)識，還得開發(fā)相應(yīng)系統(tǒng)和技術(shù)，同時做好安全防范——既要主動添加標(biāo)識，又要防止標(biāo)識被刪減、修改、攻擊。技術(shù)本身有兩面性，要是沒有安全防范，A公司制作的內(nèi)容被B公司輕易替換，用戶隨便就能修改標(biāo)識，那這項技術(shù)就失去了初衷。

這對中小企業(yè)來說壓力更大。大企業(yè)有足夠的資金、技術(shù)應(yīng)對，可中小企業(yè)不一樣。我老家在山西，以前小煤礦安全難治理，就是因為購置安全設(shè)備成本高，小企業(yè)舍不得投入，總存僥幸心理「說不定不會被查」。現(xiàn)在AI標(biāo)識也是同理，中小企業(yè)要在技術(shù)上真金白銀投入，一旦投入成為負(fù)擔(dān)，就可能產(chǎn)生僥幸心理，不愿主動合規(guī)。

所以我一直呼吁，任何技術(shù)都該有普惠性。能不能給中小企業(yè)提供打包的系統(tǒng)或技術(shù)解決方案？幫他們減少合規(guī)負(fù)擔(dān)？要知道，市面上除了大平臺，還有大量中小平臺，它們沒那么多錢、技術(shù)和人才。要是這些中小平臺因能力有限無法落實《辦法》要求，很可能會成為監(jiān)管漏洞——AI違規(guī)內(nèi)容都跑到中小平臺傳播，這絕非不可能。

事實上，這種情況大概率會出現(xiàn)。要是小企業(yè)不愿履行責(zé)任、心存僥幸，想靠AI傳播不合規(guī)內(nèi)容，大平臺管得嚴(yán)，就會轉(zhuǎn)向和中小平臺合作，利用中小平臺制作、傳播違規(guī)內(nèi)容，這顯然是我們不愿看到的結(jié)果。

還有個大家關(guān)心的問題：現(xiàn)在對AI生成內(nèi)容的監(jiān)測用什么手段，文本領(lǐng)域的檢測是不是更難、更復(fù)雜？

確實如此，現(xiàn)在很多高校老師對論文是否由AI撰寫很困惑，主要是因為他們使用AI的頻次低。像我天天用主流AI工具，現(xiàn)在看一篇論文，大概能判斷出是人類寫的還是AI寫的，甚至能初步判斷用的是哪家AI，這靠的是長期使用積累的經(jīng)驗。所以我呼吁高校老師多使用AI工具，不然連學(xué)生有沒有用、怎么用AI都判斷不出來。

技術(shù)角度看，文本領(lǐng)域的檢測主要看兩個核心指標(biāo)：一是「困惑度」，可以理解為對文本的「驚訝程度」。人類寫的內(nèi)容有更多不確定性和創(chuàng)造性，困惑度更高，而AI生成文本是靠算概率，比如描述天氣大概率會接「太陽」，描述物體大概率會接「大」或「小」，都是選最可能的下一個詞，所以AI文本更順滑，困惑度更低。二是「突發(fā)性」，人類寫作的句子長度、風(fēng)格變化更大，突發(fā)性高，AI生成的文本長度更均勻，突發(fā)性低。此外還有條件概率曲率等指標(biāo)，但核心還是困惑度和突發(fā)性。

不過目前這些檢測工具還不夠成熟，誤判率不低。上學(xué)期畢業(yè)季，我就和某媒體做過相關(guān)節(jié)目，很多老教授因為不懂AI，直接用檢測工具的AI率作為論文通過與否的依據(jù)，結(jié)果造成不少誤傷。比如有人自己寫的文章，只是情緒穩(wěn)定、行文平實，就被判定為AI生成。要是遇到這種誤判，建議大家提供原始證據(jù)申訴，比如寫論文時保存的十幾個版本草稿，畢竟AI生成內(nèi)容不需要反復(fù)修改，這些版本記錄就是人類創(chuàng)作的最好證明。同時我也想再次呼吁，老師們用AI檢測工具時一定要謹(jǐn)慎，它不能作為唯一依據(jù)。

如果把AI生成的文本手動輸入一遍再上傳，或者給AI生成的圖片手描一遍再發(fā)布，能不能蒙混過關(guān)，讓平臺判定為原創(chuàng)？

我的回應(yīng)是，人類做的這些操作，對AI檢測沒有任何干擾。AI檢測工具判斷的是內(nèi)容本身，即文本的困惑度、突發(fā)性、情感變化，關(guān)注的是圖片的結(jié)構(gòu)、元素拼接邏輯，而不是看是否來自手工錄入。就算把AI文本抄一遍，內(nèi)容本質(zhì)沒變，檢測結(jié)果也不會變。就算給AI圖片描邊，圖片核心結(jié)構(gòu)和元素沒改，同樣騙不過檢測工具。畢竟現(xiàn)在《辦法》剛實施，顯性標(biāo)識還沒完全跟上，當(dāng)前AI檢測主要靠內(nèi)容本身判斷。

【3】跨境傳播的AI內(nèi)容出了問題，責(zé)任該怎么劃分？

大家還關(guān)心跨境傳播的問題，比如國內(nèi)生成的AI作品傳到國外，國外的AI作品傳到國內(nèi)，不同國家標(biāo)識要求不一樣，能互相認(rèn)可嗎？有沒有統(tǒng)一監(jiān)管辦法？

目前在AI生成內(nèi)容標(biāo)識這塊，中國是走在全球前面的，全世界對這一領(lǐng)域的治理還比較模糊。未來的趨勢是，我們要和國際透明度規(guī)則對齊。比如美國在這方面進(jìn)展較慢，歐洲則較快，歐盟《AI法案》對深度偽造就有強(qiáng)制標(biāo)識要求。

要實現(xiàn)互認(rèn)，技術(shù)層面有不少要解決的問題。顯性標(biāo)識還好說，隱性標(biāo)識則涉及數(shù)據(jù)層面，各國能否使用統(tǒng)一的通用語言，這需要各國共同認(rèn)可，通過統(tǒng)一的元數(shù)據(jù)和來源憑證，提升境外平臺、監(jiān)管機(jī)構(gòu)的接受度。當(dāng)然，我們也要保留國內(nèi)執(zhí)法所需的傳播、制作要素，所以實際操作會更復(fù)雜，有時可能需要同時保留雙方的標(biāo)識，但這無疑會進(jìn)一步增加企業(yè)負(fù)擔(dān)。

不過總體來看，我們現(xiàn)在不僅是AI治理的參與者，更是規(guī)則制定者之一，不少國家已經(jīng)在參考我們的做法了。

那要是跨境傳播的AI內(nèi)容出了問題，責(zé)任該怎么劃分？比如國外生成的有風(fēng)險的AI作品，傳到國內(nèi)出了問題，這算國外的責(zé)任還是國內(nèi)平臺的責(zé)任？

其實責(zé)任分兩塊，生產(chǎn)環(huán)節(jié)和傳播環(huán)節(jié)。AI內(nèi)容在哪個國家生產(chǎn)，就要符合當(dāng)?shù)胤煞ㄒ?guī)；傳到哪個國家傳播，也要符合那個國家的法律法規(guī)。比如一個AI作品在A國生產(chǎn)，要在A國和B國同時傳播，就必須同時符合A、B兩國的規(guī)定，否則在任一國家都可能面臨官司或處罰。

這也是中國企業(yè)出海難的原因之一，不僅要符合國內(nèi)法規(guī)，還要符合目的地國家的法規(guī)，有時甚至要考慮當(dāng)?shù)氐娘L(fēng)土人情、民族感情，稍有不慎就可能出問題，所以我們也該對出海企業(yè)多一點寬容。

【4】清晰標(biāo)注有時能提升信任度和合規(guī)可見性

大眾會有一種慣性思維，覺得AI做的作品就是不如人原創(chuàng)的有價值，就好像手工做的東西，就是要比流水線上的東西更有價值。那么AI強(qiáng)制標(biāo)識，對AI產(chǎn)品使用者、AI內(nèi)容創(chuàng)作者來說，又是怎樣的感受？

作為AI產(chǎn)品使用者，我想分享下自己用AI做視頻的經(jīng)歷，或許能給大家一些參考。

我用AI數(shù)字人做視頻快四年了，說實話，有了AI工具后，人真的會變懶。一開始我給自己定了規(guī)矩，數(shù)字人出鏡的視頻比例絕不超過50%，還是要自己多錄、多說?？葾I工具太好用了，比例慢慢從50%漲到60%、70%、80%，現(xiàn)在已經(jīng)到90%了。我現(xiàn)在的視頻節(jié)目里，九成是AI數(shù)字人生成的。

關(guān)于標(biāo)注，我也有過反復(fù)。剛開始用數(shù)字人時，我會明確標(biāo)注「本條視頻由數(shù)字人出鏡」，一方面是合規(guī)，另一方面也有點嘚瑟，畢竟作為第一批用AI數(shù)字人的博主，我也想跟大家分享這種新技術(shù)。大概標(biāo)注了四五個月后，一方面覺得粉絲應(yīng)該適應(yīng)了，另一方面有的時候也會忘記標(biāo)注，慢慢就不標(biāo)了。

那時的數(shù)字人沒有現(xiàn)在的絲滑逼真，評論區(qū)總有人問「這是真人還是數(shù)字人？」問得多了，過了幾個月我又開始標(biāo)?，F(xiàn)在我又不標(biāo)了，一是數(shù)字人技術(shù)成熟了，大家接受度高了，二是我的節(jié)目以輸出觀點為主，觀眾對是否為真人出鏡沒那么在意。而且不同平臺對數(shù)字人生成內(nèi)容的容忍度也不一樣，像我這種知識分享類的露臉視頻，平臺普遍表示「標(biāo)不標(biāo)都行」。

在我看來，清晰標(biāo)注有時能提升信任度和合規(guī)可見性。比如新聞類、知識類、商業(yè)傳播類這些高敏感度領(lǐng)域，標(biāo)注就很重要。觀眾會因為你的坦誠標(biāo)注，覺得你靠譜、真誠，反而增加信任。所以我建議創(chuàng)作者，在這些高敏感度領(lǐng)域一定要能標(biāo)盡標(biāo)，既合規(guī)，也能收獲更多信任，具體還要結(jié)合平臺規(guī)則來調(diào)整。

關(guān)于AI生成內(nèi)容標(biāo)識技術(shù)的未來趨勢。我認(rèn)為在可見的未來，有四個方向會是重點攻克的領(lǐng)域：

第一個是標(biāo)準(zhǔn)統(tǒng)一。統(tǒng)一的標(biāo)準(zhǔn)能減少企業(yè)的技術(shù)投入成本，也能讓跨國互認(rèn)更方便、更具操作性。要是標(biāo)準(zhǔn)不統(tǒng)一，未來會出現(xiàn)很多銜接問題，這也是我一直呼吁的方向。

第二個是模型簽名化。AI生成內(nèi)容的源頭是大模型，要是能在生成端就讓模型自動寫入可驗證的來源證明，就能從根源上解決「是誰生成、從哪來」的問題。目前一些大模型在圖像生成領(lǐng)域已經(jīng)有了先行嘗試，比如ChatGPT的圖像生成功能就包含了一些憑證，未來這一定會成為主流趨勢。

第三個是流市場景的技術(shù)整合?，F(xiàn)在AI違規(guī)內(nèi)容的重災(zāi)區(qū)是直播、視頻這類「流式場景」，內(nèi)容是流動的，不像圖片是固定的，監(jiān)管難度更大。未來針對這類場景，大概率會采用「疊層水印+界面寫標(biāo)+回放檢驗」的組合手段，這也是標(biāo)識技術(shù)中集成度要求最高的方向。

第四個是平臺協(xié)同閉環(huán)。把AI內(nèi)容的生成、讀寫、申訴、追蹤等環(huán)節(jié)打通，形成完整的治理閉環(huán)，讓每個環(huán)節(jié)都有跡可循、有責(zé)可追，這也是未來平臺治理要重點推進(jìn)的方向。

這四個趨勢，就是我認(rèn)為AI生成內(nèi)容標(biāo)識技術(shù)接下來會重點突破的領(lǐng)域，也希望能通過這些技術(shù)進(jìn)步，讓AI生成內(nèi)容在合規(guī)的前提下，更好地服務(wù)大家的生活。