“作品含AI內(nèi)容”的標(biāo)識成為一種標(biāo)配，不知道有多少人松了一口氣。

9月1日，DeepSeek在官方公眾號發(fā)布公告，表示對AI生成合成內(nèi)容添加標(biāo)識，并明確提醒用戶相關(guān)內(nèi)容由AI生成。

其他大模型廠商其實也早有動作，8月31日，騰訊元寶也在公眾號發(fā)布了《關(guān)于AI內(nèi)容標(biāo)識的公告》。字節(jié)豆包、阿里通義、Kimi、智譜清言等也已紛紛更新了用戶協(xié)議中與AI標(biāo)識相關(guān)的內(nèi)容，表示已履行AI標(biāo)識相關(guān)義務(wù)，包括但不限于顯性標(biāo)識和隱性標(biāo)識。

在大模型廠商紛紛“打標(biāo)”的背后，是9月1日起正式實施的《人工智能生成合成內(nèi)容標(biāo)識辦法》。該《辦法》由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局四部門聯(lián)合發(fā)布，要求所有AI生成的內(nèi)容都要“亮明身份”。

·文本、圖片、音頻、視頻、虛擬場景等，通通包括在內(nèi)；

·AIGC技術(shù)服務(wù)者、平臺、用戶都得遵守。

首先，AIGC技術(shù)服務(wù)者需要在生成AI內(nèi)容時，就埋好隱性標(biāo)識，做好“出廠蓋章”。

其次，平臺識別并給AI內(nèi)容添加顯式標(biāo)識和隱式標(biāo)識，如在內(nèi)容下方標(biāo)明“作品含AI內(nèi)容”，做好“上架明牌”。

最后，用戶在發(fā)布和傳播相關(guān)內(nèi)容的時候，不可以用任何方式刪除、篡改、偽造或隱匿平臺添加的AI標(biāo)識。

因此，除了大模型廠商之外，B站、抖音、快手等互聯(lián)網(wǎng)平臺也紛紛上線相關(guān)功能，讓用戶可以主動聲明AI內(nèi)容，并且配以平臺識別打標(biāo)。

經(jīng)常網(wǎng)上沖浪的朋友都清楚，AI標(biāo)識是一場及時雨。這幾年，大家眼睜睜看著AI內(nèi)容越來越多、越來越多樣、越來越真：

AI文案與文章賺著點擊，AI美女在線擦邊騙口水，AI乖孫生生把爺爺奶奶“哄成胚胎”，AI說教視頻都成了長輩的催婚利器……最可怕的是，連十級沖浪選手都驚恐地發(fā)現(xiàn)，昨天剛給老人做了“如何辨別AI內(nèi)容”的教育工作，今天自己就中了招。

我們要么被騙，要么被“創(chuàng)”，一不小心已經(jīng)走進(jìn)了《黑鏡》的片場。

01

AI乖孫的魔力

很多人第一次被AI內(nèi)容震撼到，是發(fā)現(xiàn)老人愛上AI乖孫。

本來在辦公室當(dāng)著脫脂牛馬，用AI寫代碼寫方案做PPT，讓AI幫忙解讀體檢報告，在無聊的時候和AI玩角色扮演，或者用AI合成網(wǎng)絡(luò)模因，和AI的關(guān)系挺和諧的。

結(jié)果過年一回家，卻看到老人抱著手機憨笑，里面?zhèn)鱽硪魂囮嚒澳棠獭薄盃敔敗钡暮⑼鹨簦?strong>一瞅居然是平滑感十足的“六指靈童”在作祟。發(fā)視頻的知道那是AI合成的，你也知道那是AI合成的，唯獨老人當(dāng)真的看。

最絕望的是，老人不僅相信了還愛得不行，拿AI乖孫和真孫比。沒想到都已經(jīng)成年了，還得遭受“看看人家孩子看看你”的折磨，況且這次把你比下去的不是隔壁小李，而是空氣。

這種震撼有兩層。一層是驚訝，你以為的“一眼假”，其實只是你以為。一層是擔(dān)憂，把AI內(nèi)容被當(dāng)成真的，被騙到的不僅是點擊，還可能是感情甚至金錢。

現(xiàn)實也確實如此。

說兩個極端例子。

一個例子是今年6月的時候，馬來西亞有一對老夫妻在網(wǎng)上看到一則“記者走訪”視頻。視頻中一名記者正在介紹某景區(qū)的纜車項目，于是他們說走就走，驅(qū)車4.5小時前往，卻被當(dāng)?shù)芈灭^員工告知根本沒有纜車。

“我向阿姨解釋說，這段影片是AI制作的，并不是真的。我在這里土生土長，如果真有纜車，這里一定比現(xiàn)在熱鬧得多�！�

我們也專門找到這則視頻，畫面中有意為之的低畫質(zhì)，右上角的電視臺標(biāo)，配上“記者走訪”這種形式和流暢的畫面，纜車悠然穿越樹林，溪流和山脈的壯麗景觀，都極具迷惑性。

雖然可以通過一些動作和行人不自然地走姿看出端倪，但要精準(zhǔn)地傳達(dá)給一位老人“假”在哪里，還真不容易。

另一個例子是今年3月，中國工程院院士、天津中醫(yī)藥大學(xué)名譽校長張伯禮推薦某美白護(hù)膚產(chǎn)品的視頻出現(xiàn)在網(wǎng)絡(luò)上，他不得不出來辟謠：這些內(nèi)容全是假的。我從來沒用過這個護(hù)膚品，我也沒做過這方面的宣傳，更沒研究過，所以里邊完全是編造的。

當(dāng)時網(wǎng)絡(luò)上涉及他形象和聲音的假視頻在網(wǎng)絡(luò)上傳播的至少還有十幾條。

道理都懂，但是給老人講清楚又是另一回事，難度堪比解釋為什么有人花三十萬買那個齜牙咧嘴的玩偶拉布布。甚至有博主專門拍攝用AI工具合成“乖孫”的視頻，就是方便大家轉(zhuǎn)發(fā)給家中老人。

辨別能力有限的不止有老人，更不只是中國用戶。YouTube上一位憂心忡忡的用戶就分享說，自己的孩子看了一則短視頻，是關(guān)于“游樂場惡魔”的，嚇得不輕。她不得不費勁給孩子解釋什么是人工智能，最后干脆禁止孩子再用YouTube。

AI標(biāo)識變?yōu)闃?biāo)配，無疑是對在這方面辨別能力有限的群體的一種保護(hù)。至少可以告訴他們，凡是有“作品有AI內(nèi)容”這樣的標(biāo)識，就別信以為真。

02

當(dāng)年輕人也無法識別AI內(nèi)容

除了單純地?fù)?dān)憂家人之外，年輕人自己也會直接變成“受害人”。

爺爺奶奶用AI乖孫PUA你，都已經(jīng)算小意思，嘗過長輩用AI催婚的人才知道什么是真正的苦澀。

“媽媽說了這番話，我想結(jié)婚了”“不結(jié)婚的人以后有多慘”“人到中年最可怕的事是孤身一人”“不結(jié)婚的十大壞處”，不知道什么時候開始，各種催婚視頻變成了老人的“嘴替”。

更魔幻的是，你從明顯的掉幀，以及“穿�！钡难例X，驚訝地發(fā)現(xiàn)如今催婚視頻都在用AI了——原視頻也許只是一段普通的街頭采訪，被人用AI一處理，就成了對口型文案點讀機。

好歹以前營銷號的催婚視頻還是真人拍攝，如今就只動動小手指用AI搞deepfake？更有甚者，直接用AI貓貓成親視頻配催婚文案，就連你家貓看了都得連連擺手，為自己的物種發(fā)聲。

真把老實人逼沒轍了，年輕人開始用“魔法打敗魔法”。

輕則讓AI支招緊急學(xué)習(xí)反催婚話術(shù)；重則用AI合成自己和光頭大金鏈子油膩男擁抱的視頻，騙長輩“已經(jīng)找到對象了，勿催”；或者直接合成貓貓洗衣做飯的視頻，下次長輩再問“不生孩子老了怎么辦”，你只需要說“請看VCR”——誰用AI不是用啊，年輕人還能自己制作，直接讓自家貓貓上場。

不過在和家長斗智斗力的過程中，都還是憤怒的對抗，畢竟那些催婚視頻，不管是貓貓結(jié)婚還是路人被對口型，都還是和老年人愛上的“AI乖孫”一樣，是一眼假的視頻。

當(dāng)十級沖浪選手發(fā)現(xiàn)，連自己都會開始分辨不出AI視頻和真實視頻的時候，這一切才真的變成賽博恐怖故事。

這就不得不說到“袋鼠登機”視頻了。今年5月，一則視頻走紅網(wǎng)絡(luò)，獲得百萬點贊。視頻中一位女士正在和工作人員理論，她們中間站著一只袋鼠，手里握著登機牌，一臉無辜地看著鏡頭。

由于沒有明顯的光影、動作、肢體硬傷，袋鼠的表情又實在惹人憐愛，很多人壓根就來不及想“袋鼠能不能坐飛機”的問題，甚至注意不到女人揮舞的手露出了破綻，就沖到評論區(qū)瘋狂鍵入“好可愛呀”。

最后發(fā)現(xiàn)小丑竟是自己，這是一則AI視頻，甚至引來多家媒體幫忙辟謠。

不過在那之后，第三方視頻還在轉(zhuǎn)發(fā)這則視頻，而評論區(qū)依然有“蒙鼓人（被蒙在鼓里的人）”。

這種事兒對年輕人的打擊無疑是巨大的，上午還在跳腳“這么假的AI視頻你為什么要相信”，下午就發(fā)現(xiàn)自己也分不出來：我三歲玩iPad，五歲玩電腦，十二歲就已經(jīng)是沖浪滿級選手，結(jié)果發(fā)現(xiàn)AI視頻是不長眼的，作為人類的自信心是沒有的，真與假的界限是模糊的。

好在AI標(biāo)識來了，袋鼠再可愛，也別想騙我。

03

AI標(biāo)識成標(biāo)配，真的很有必要

AI的能力越來越強，真與假的界限在屏幕里逐漸變得模糊，人為劃清這道界限就顯得尤為重要。

這并不容易。

正如剛剛開始實施的《辦法》，強制規(guī)范，AI生產(chǎn)商、平臺、用戶三方共同努力，意味著不留“視情況遵守”的灰色地帶，也不留“貓鼠游戲”的空間，這樣的力度在全球都實屬罕見。

比較相似的是韓國和西班牙，前者有人工智能框架法，后者有AI標(biāo)識要求，都是在今年年初的動作。

歐盟動作比較快，2024年正式公布《人工智能法案》（EU AI Act），不過這是一個針對AI比較大、全的法案，核心是人工智能規(guī)制分級管理，將人工智能系統(tǒng)分為“禁止類”“高風(fēng)險類”“有限風(fēng)險類”與“最低風(fēng)險類”，并據(jù)此提出差異化監(jiān)管要求。目前法案還在逐步鋪開，強制標(biāo)簽要求可能要到2026年生效。

而且這個法案并非沒遇到阻力，如8月，美國科技巨頭就是不是要自愿簽署《通用人工智能行為準(zhǔn)則》進(jìn)行了表態(tài)，Meta就明確表示拒絕。

在美國本土，至今還沒有關(guān)于AI標(biāo)識的全國性法規(guī)，部分州（如加州）有強制標(biāo)簽要求，但聯(lián)邦層面僅有指導(dǎo)性的意見，而科技公司如OpenAI、谷歌、Meta等是自愿支持AI水印、AI標(biāo)識等措施。

“自愿”可靠嗎？

在非強制性監(jiān)管的環(huán)境之下，AI標(biāo)識的落實也好，AI內(nèi)容的控制也罷，確實不盡如人意。

最典型的就是谷歌旗下視頻平臺YouTube的亂象。

雖然谷歌自己的Gemini模型早就自愿加入“打水印”的行列，但是在YouTube這個平臺上，AI短視頻泛濫已經(jīng)到了夸張的程度，周排名里前幾的短視頻總是AI視頻，尤其是兒童頻道，簡直就是重災(zāi)區(qū)。

這些AI短視頻有的是蹩腳和無意義的，有的是貓貓狗狗配上狗血短劇劇情，還有的是生成的詭異生物/怪物在飄蕩，而最引人擔(dān)憂的則是AI短視頻講歷史講科學(xué)知識，但是錯誤百出。而且不少AI視頻賬號，會重復(fù)上傳十幾條相同的視頻。以此來多賺流量激勵。

這背后當(dāng)然是利益驅(qū)使，曾有人在Medium發(fā)文，表示利用AI短視頻，5天就賺了5000美元。

而AI內(nèi)容的泛濫，勢必會擠壓人類創(chuàng)作者的生存空間，已經(jīng)有不少YouTuber制作視頻討論此類亂象，呼吁平臺治理。

雖然YouTube已經(jīng)表態(tài)會打擊大規(guī)模生產(chǎn)的、重復(fù)的AI短視頻，但是目前YouTube Shorts仍然有烏煙瘴氣之感，并沒有從根本上解決問題。

更值得玩味的是，YouTube在8月底還陷入了另一場爭議。

有創(chuàng)作者發(fā)現(xiàn)，自己的短視頻上傳到Y(jié)ouTube Shorts之后，質(zhì)感變得很奇怪，貌似變得更清晰了，但是邊緣過度銳利、畫面有詭異的平滑感、陰影格外明顯……換句話說，明明是真正的人類視頻，卻莫名其妙變得很“塑料”，就像AI視頻一樣。

但是同步分發(fā)到Instagram（Meta旗下社交媒體）的短視頻并沒有異常，因此懷疑YouTube擅自為短視頻做了AI增強。本來AI短視頻泛濫就很煩人了，真人視頻也強行被AI過了一手。

這件事也已經(jīng)被多家美國主流媒體報道，基本上是實錘了。

用AI功能賦能創(chuàng)作者是一回事，不打聲招呼偷偷摸摸給統(tǒng)一加上一層“AI濾鏡”是另一回事，也難怪YouTuber都很生氣。

“我不喜歡我的視頻變成這樣，我更不希望我的粉絲誤認(rèn)為我開始做AI視頻了�！�

YouTube的這兩件事（AI短視頻泛濫和偷偷做AI增強）暴露了一個很大的問題——AI的規(guī)范只被當(dāng)作科技公司的“自愿”行為，是遠(yuǎn)遠(yuǎn)不夠的。

尤其是既做面包又賣面包的科技巨頭，是有原始動力多加糖、多做、多賣的，盡管它在宣傳的時候要大談健康。

未來AI視頻的數(shù)量恐怕只會越來越多。

分享兩個數(shù)據(jù)。

一個是Twicsy.com的一項研究，稱人類影響者目前的平均收入是AI影響者的46倍。這主要是因為AI內(nèi)容在真實性、情感連接和信任方面仍有差距，導(dǎo)致贊助和廣告收入較低。

46倍感覺是人類大勝，但是轉(zhuǎn)念想想人類制作視頻的投入水平，和AI視頻的投入水平（以創(chuàng)作者來論），這個差距不是太大，反而是小得可怕。

另一個數(shù)據(jù)是，Business Insider的2025創(chuàng)作者市場報告顯示，整個創(chuàng)作者經(jīng)濟（包括AI生成內(nèi)容）在2025年已達(dá)250億美元，比2022年的164億美元增長了52%。KBV Research的報告預(yù)測，虛擬創(chuàng)作市場（包括AI生成的內(nèi)容創(chuàng)作者）到2030年將達(dá)到378億美元。

如今我們是AI內(nèi)容試圖混入“真實”世界，在不遠(yuǎn)的將來，會不會反過來、我們需要在AI世界里挑揀“真實”內(nèi)容？不好說。

《辦法》正式實施，AI標(biāo)識的難點仍然存在，“漏網(wǎng)之魚”也總會出現(xiàn)，明顯的AI標(biāo)識甚至有可能依然阻擋不了長輩用AI視頻催婚、老人對著“AI乖孫”憨笑。

但至少先把腳抬起來了，才能邁開步子。

歡迎在評論區(qū)留言~
如需開白請加小編微信：dongfangmark