當(dāng)馬斯克旗下的Grok在X平臺(tái)上掀起“一鍵脫衣”風(fēng)暴，當(dāng)國內(nèi)首例AI陪伴軟件涉黃案將開發(fā)者送入法庭，當(dāng)印尼、馬來西亞等國相繼封禁相關(guān)應(yīng)用——我們不得不承認(rèn)，一個(gè)由AI驅(qū)動(dòng)的全新灰色地帶，正在全球范圍內(nèi)野蠻生長。

這股浪潮的底層動(dòng)力，遠(yuǎn)比我們想象得更為洶涌。2025年12月底至2026年1月初，Grok的圖像生成功能被用戶大規(guī)模濫用，掀起了一場(chǎng)史無前例的“比基尼風(fēng)波”，用戶僅需@一下AI，就能讓任何人“穿上”比基尼，連馬斯克本人的惡搞圖都難逃此劫。

研究數(shù)據(jù)顯示，Grok的用戶群體平均每小時(shí)生成6700多張“脫衣”圖像。而數(shù)字情報(bào)公司Peryton Intelligence的數(shù)據(jù)顯示，僅在2026年1月2日當(dāng)天，Grok就收到了199,612個(gè)獨(dú)立的脫衣請(qǐng)求。面對(duì)洶涌的輿論壓力，X平臺(tái)于1月9日宣布，圖像生成功能僅對(duì)付費(fèi)用戶開放，并于1月15日正式發(fā)布安全聲明，禁止為真實(shí)人物生成暴露服裝（如比基尼）的圖片。

面對(duì)這一復(fù)雜難題，我們專訪了北京師范大學(xué)新聞傳播學(xué)院喻國明教授。身為北京師范大學(xué)新聞傳播學(xué)院學(xué)術(shù)委員會(huì)主任、教育部長江學(xué)者特聘教授，喻國明長期深耕技術(shù)、社會(huì)與人性的關(guān)系領(lǐng)域，憑借其開創(chuàng)的“認(rèn)知神經(jīng)傳播學(xué)”以及“社會(huì)安全閥”“輿論代償機(jī)制”等理論蜚聲學(xué)界。他的剖析始終跳出二元對(duì)立的桎梏，力求探尋兼具現(xiàn)實(shí)觀照與建設(shè)性價(jià)值的平衡之道。

圖源：北京師范大學(xué)官網(wǎng)

在本次訪談中，他開宗明義地指出，討論的前提是必須嚴(yán)格區(qū)分“公共空間”與“私人空間”，成年人在私域內(nèi)的合理消費(fèi)應(yīng)受保護(hù)。但這絕非為技術(shù)濫用開脫。他犀利地指出“技術(shù)非絕對(duì)中立”，并提出了清晰的“責(zé)罰相稱”責(zé)任劃分原則：有意為之的開發(fā)者應(yīng)負(fù)主責(zé)。面對(duì)全球“監(jiān)管碎片化”，他認(rèn)為在底線的價(jià)值共識(shí)上可以協(xié)同，而在具體文化表達(dá)上必然存異。

對(duì)于創(chuàng)業(yè)者，他則給出了從設(shè)立“倫理憲章”到擁抱“最小化可行治理”的務(wù)實(shí)建議。

喻國明教授的核心觀點(diǎn)，最終指向一種審慎的、發(fā)展的治理智慧。他強(qiáng)調(diào)，“治理的邏輯必須建立在未來發(fā)展的可能性之上”，反對(duì)用舊框架簡單框定新現(xiàn)實(shí)。他提醒，法律的終極目的不僅是懲罰，更是倡導(dǎo)一種更文明的滿足方式。他開門見山地指出，“不能用傳統(tǒng)意義上那套標(biāo)準(zhǔn)，去框定正在發(fā)展、日益變化了的新狀況?！?/p>

這場(chǎng)由算法掀起的欲望風(fēng)暴，不僅是一場(chǎng)法律與技術(shù)的賽跑，更是一次關(guān)于我們?nèi)绾味x數(shù)字時(shí)代隱私、自由與責(zé)任的全民拷問。而答案，或許就藏在這場(chǎng)在鋼索上前行的平衡藝術(shù)之中。

以下是未來圖靈與喻國明教授的對(duì)話，略有刪減。

新現(xiàn)象、新特征——AI“擦邊”的本質(zhì)之辨

：Q

我們關(guān)注到當(dāng)前AI情感陪伴類產(chǎn)品發(fā)展迅速，但也伴生出所謂“AI擦邊內(nèi)容”的監(jiān)管困境。您怎么看待這個(gè)問題？

喻國明：我認(rèn)為從規(guī)范或監(jiān)管的角度，首要的是區(qū)分私人空間與公共空間。根據(jù)我國既有法律規(guī)定及國際通例，即便是涉及色情的內(nèi)容，只要限于個(gè)人消費(fèi)、不進(jìn)行傳播，本身并不構(gòu)成違規(guī)。無論從法律還是從人合理需求滿足的角度，社會(huì)對(duì)于性內(nèi)容應(yīng)有相對(duì)開放的接納態(tài)度，限制主要在于傳播環(huán)節(jié)。因此，個(gè)人通過AI平臺(tái)進(jìn)行共創(chuàng)，只要內(nèi)容不向外傳播或商業(yè)化，原則上屬于私人權(quán)利范疇。在私權(quán)領(lǐng)域，公權(quán)力不應(yīng)隨意干預(yù)，大致是“民不告，官不究”的原則。

當(dāng)然，我們必須認(rèn)識(shí)到，心理與情感需求是當(dāng)今社會(huì)發(fā)展中的一個(gè)普遍痛點(diǎn)。國家衛(wèi)健委將2025年定為“心理健康年”，世界衛(wèi)生組織也將精神健康納入健康的重要范疇。當(dāng)前社會(huì)轉(zhuǎn)型、經(jīng)濟(jì)下行、信息超載帶來的壓力，使得心理與情感問題凸顯。關(guān)注心理健康、滿足合理的情感需求，是社會(huì)文明應(yīng)關(guān)注與寬容的。所以，我們不應(yīng)將這種強(qiáng)大的社會(huì)合理需求簡單視為不合理甚至欲加處罰的對(duì)象，這是我們討論這一現(xiàn)象的的前提。

：Q

在學(xué)術(shù)或政策語境中，“AI擦邊內(nèi)容”尚無明確定義。您認(rèn)為這類內(nèi)容的核心特征是什么？它和傳統(tǒng)網(wǎng)絡(luò)色情或用戶違規(guī)內(nèi)容有何本質(zhì)區(qū)別？

喻國明：這的確是一個(gè)由AI催生的全新現(xiàn)象，不能簡單套用過去對(duì)“網(wǎng)絡(luò)色情”或“用戶違規(guī)”的界定。我們必須從生產(chǎn)邏輯、內(nèi)容形態(tài)和消費(fèi)場(chǎng)景三個(gè)維度重新解構(gòu)。

第一，生產(chǎn)方式具有“即時(shí)、互動(dòng)、個(gè)性化”三重屬性。用戶一個(gè)提示，AI能瞬間生成內(nèi)容；更關(guān)鍵的是，用戶可通過連續(xù)誘導(dǎo)對(duì)話，像“剝洋蔥”一樣與AI“共謀”，逐步突破安全邊界，使內(nèi)容在互動(dòng)中演化。同時(shí)，AI能生成滿足用戶特定偏好的高度定制化內(nèi)容。

第二，內(nèi)容形態(tài)具有“模糊、情境、動(dòng)態(tài)”三大特點(diǎn)。它往往通過性暗示而非直接暴露來規(guī)避硬性規(guī)定，判定標(biāo)準(zhǔn)主觀模糊；單獨(dú)看或許無害，但在連續(xù)對(duì)話構(gòu)成的情境中，其意圖變得完整明確；其形態(tài)會(huì)隨用戶提示和模型迭代飛速演變，與監(jiān)管進(jìn)行“貓鼠游戲”。

第三，傳播消費(fèi)具有“私密、規(guī)?；⒊砂a”的深層影響。大量內(nèi)容產(chǎn)生于一對(duì)一私密對(duì)話，傳統(tǒng)審核極難觸及；AI的低成本、高速度使其具備海量生產(chǎn)能力；高度擬人化的情感模擬極易導(dǎo)致用戶依賴甚至成癮，對(duì)心理健康構(gòu)成潛在風(fēng)險(xiǎn)。

圖源：該圖片由即夢(mèng)AI生成

誰之過？如何管？——責(zé)任劃分與監(jiān)管難題

：Q

有觀點(diǎn)認(rèn)為，AI擦邊不是技術(shù)失控，而是精準(zhǔn)利用人性弱點(diǎn)的商業(yè)模式。您如何看待“技術(shù)中立”在此類場(chǎng)景中的適用性？

喻國明：需要兩面看，但這場(chǎng)景中“技術(shù)絕對(duì)中立”的說法已不成立。技術(shù)由人設(shè)計(jì)，其算法規(guī)則與數(shù)據(jù)使用必然承載特定的價(jià)值觀和文化意圖，本質(zhì)上是對(duì)人性需求的“定向適配”或契合。

商業(yè)模式利用人性需求本身并非原罪。任何商業(yè)都要滿足需求，而需求包含人性層面。關(guān)鍵在于把握“度”——是合理滿足，還是過度榨取。這是一個(gè)限度問題，而非有無問題。

因此，技術(shù)是“放大器”。它能放大善，滿足合理的情感陪伴；也能放大惡，進(jìn)行系統(tǒng)性情感操控。我們的制度設(shè)計(jì)，應(yīng)致力于激勵(lì)前者，遏制后者。當(dāng)一項(xiàng)技術(shù)被刻意設(shè)計(jì)來利用人性弱點(diǎn)以達(dá)成商業(yè)目的時(shí)，它已主動(dòng)放棄了中立立場(chǎng)。

：Q

在AlienChat案中，法院認(rèn)定開發(fā)者“制作”淫穢物品。但如果用戶主動(dòng)誘導(dǎo)AI生成擦邊內(nèi)容，責(zé)任該如何劃分？平臺(tái)、開發(fā)者、用戶各自該承擔(dān)什么？

喻國明：責(zé)任劃分應(yīng)遵循“責(zé)罰相稱”與“能力匹配”的基本原則。在此邏輯下，各方的責(zé)任并非均等，而有明確的主次之分。

首先，技術(shù)開發(fā)方應(yīng)承擔(dān)主要責(zé)任。如果開發(fā)者在其技術(shù)設(shè)計(jì)的框架、規(guī)則和導(dǎo)向上，有意為生成違規(guī)內(nèi)容提供了特別便利和完善的條件，例如預(yù)設(shè)“擦邊球”話術(shù)模板或刻意突破模型安全限制，這本身就構(gòu)成一種主觀故意的誘導(dǎo)。盡管內(nèi)容生成有賴于用戶提示，但開發(fā)者作為提供主要技術(shù)手段和設(shè)定底層規(guī)則的一方，其責(zé)任是決定性的。

其次，用戶承擔(dān)次要責(zé)任。用戶若明知故犯，反復(fù)使用惡意提示詞誘導(dǎo)AI生成違法內(nèi)容并加以傳播，理應(yīng)受到相應(yīng)懲處。但需注意，普通用戶的技術(shù)能力和法律認(rèn)知有限，其責(zé)任不能與開發(fā)者等同。

最后，平臺(tái)負(fù)有連帶責(zé)任。平臺(tái)負(fù)有監(jiān)測(cè)、發(fā)現(xiàn)并及時(shí)處理違規(guī)內(nèi)容的義務(wù)。如果平臺(tái)未有意通過算法推薦、流量加持等方式主動(dòng)推動(dòng)違規(guī)內(nèi)容傳播，而僅是監(jiān)管響應(yīng)不及時(shí)，則其責(zé)任相對(duì)次要。但若平臺(tái)為了流量和營收，有意縱容或放大違規(guī)內(nèi)容，其責(zé)任將相應(yīng)加重，甚至可能構(gòu)成共犯。

簡言之，責(zé)任的劃分應(yīng)基于各方在違規(guī)內(nèi)容產(chǎn)生鏈條中的作用大小和主觀意圖來確定，而非簡單地平均分?jǐn)偂?/p>

圖源：該圖片由即夢(mèng)AI生成

：Q

系統(tǒng)提示詞（System Prompt）被用作繞過安全機(jī)制的工具。這是否意味著“算法設(shè)計(jì)”本身已構(gòu)成內(nèi)容生產(chǎn)？現(xiàn)有法規(guī)能否覆蓋？

喻國明：這觸及了當(dāng)前監(jiān)管的最大難點(diǎn)。對(duì)于煽動(dòng)暴力、泄露國家機(jī)密等有明確操作標(biāo)準(zhǔn)的內(nèi)容，監(jiān)管相對(duì)容易。但對(duì)于“淫穢”、“情感煽動(dòng)”、“心理操控”等高度依賴主體感受的內(nèi)容，判定標(biāo)準(zhǔn)本身就充滿模糊性和時(shí)代差異性。

三十年前，接吻鏡頭可能被視為禁忌，如今早已司空見慣。這種主觀性和差異性，導(dǎo)致了執(zhí)法尺度的不一。因此，我始終主張，在罪與非罪的判定上，必須秉持“疑罪從無”的審慎態(tài)度。法律的終極目的不是懲罰，而是倡導(dǎo)一種更文明的文化和情感滿足方式。

在罪與非罪的邊界尚不明晰時(shí)，“疑罪從無”是必須堅(jiān)守的底線。這意味著，對(duì)于系統(tǒng)提示詞的監(jiān)管，更可行的路徑可能不是直接進(jìn)行前置性的內(nèi)容審查，而是通過明確開發(fā)者的主體責(zé)任、強(qiáng)化事后的司法審慎原則來構(gòu)建約束。

：Q

2025年《生成式AI安全基本要求》規(guī)定內(nèi)容合格率≥90%。但在高互動(dòng)、個(gè)性化場(chǎng)景下，審核滯后是否讓該標(biāo)準(zhǔn)失效？

喻國明：在當(dāng)前技術(shù)條件下，對(duì)主觀性強(qiáng)的內(nèi)容設(shè)定如此剛性的合格率指標(biāo)，確實(shí)存在挑戰(zhàn)。90%的標(biāo)準(zhǔn)，對(duì)于新聞?wù)?、代碼生成等任務(wù)或許可行，但對(duì)于情感陪伴、創(chuàng)意寫作等高自由度場(chǎng)景，幾乎不可能實(shí)現(xiàn)。、

我認(rèn)為，對(duì)于這類模糊地帶，標(biāo)準(zhǔn)的設(shè)定應(yīng)該更具彈性?？梢圆扇　胺謱又卫怼辈呗裕簩?duì)那些危害性明確、可操作化定義的內(nèi)容（如暴恐、泄密、兒童色情），執(zhí)行嚴(yán)格標(biāo)準(zhǔn)；而對(duì)于情感、文化、心理慰藉類內(nèi)容，則應(yīng)給予更高的寬容度，允許一定的試錯(cuò)空間。

待未來認(rèn)知神經(jīng)科學(xué)、情感計(jì)算等技術(shù)手段成熟，能夠更精準(zhǔn)地量化人的主觀反應(yīng)、識(shí)別潛在心理風(fēng)險(xiǎn)時(shí)，再逐步提升標(biāo)準(zhǔn)，這才是實(shí)事求是的態(tài)度。否則，一刀切的硬性指標(biāo)，實(shí)際上是對(duì)社會(huì)的過度傷害。立法、執(zhí)法、判定時(shí)都應(yīng)注意：標(biāo)準(zhǔn)是隨動(dòng)的，不是恒定的。

：Q

過去互聯(lián)網(wǎng)奉行“先上線再治理”，但AI生成速度遠(yuǎn)超審核能力。您是否認(rèn)為必須轉(zhuǎn)向“預(yù)防性治理”？

喻國明：“預(yù)防性治理”是一個(gè)方向，但必須極其審慎。法律的基本原則仍是“事后追懲”。然而，鑒于AI平臺(tái)巨大的放大效應(yīng)和不可逆的社會(huì)影響，對(duì)于有明確、重大社會(huì)危害性的生成和傳播方式，可以實(shí)施前置性治理。比如，禁止AI生成逼真兒童形象、禁止模擬政府官員發(fā)言等。

但對(duì)于大量的“灰色地帶”或“擦邊”內(nèi)容，我更傾向于事后治理。為什么？因?yàn)檫^度的、寬泛的預(yù)防性治理，就像恩格斯所說：潑掉臟水時(shí)，可能把小孩也潑掉了。它會(huì)扼殺AI在文化、藝術(shù)、心理治療等領(lǐng)域的巨大創(chuàng)新潛力。

圖源：該圖片由即夢(mèng)AI生成

平衡的藝術(shù)——未來治理與創(chuàng)業(yè)者的路

：Q

印尼封禁Grok，加州發(fā)禁止令，而OpenAI推“成人模式”。您如何看待這種監(jiān)管碎片化？全球協(xié)同治理是否可能？

喻國明：全球協(xié)同治理在兩個(gè)層面有不同的前景。在底層文化價(jià)值層面，如反對(duì)煽動(dòng)種族仇恨、暴力恐怖、侵犯隱私等，全世界是有基本共識(shí)的，協(xié)同治理是可能的，也正在發(fā)生。

但在具體文化表達(dá)層面，如情感表達(dá)、親密關(guān)系、心理慰藉等，各國因宗教、習(xí)俗、開放程度不同，必然存在巨大差異。荷蘭的性產(chǎn)業(yè)合法，而中東國家則嚴(yán)禁。因此，在這些具象化層面，全球統(tǒng)一治理是不可能的。

各國應(yīng)根據(jù)自身情況，采取“兩利相權(quán)取其重，兩害相權(quán)取其輕”的策略，分門別類地處理。中國可以探索一條“技術(shù)可控、倫理先行、文化適配”的本土化路徑。

：Q

您提出主流媒體應(yīng)成為“社會(huì)治理基礎(chǔ)設(shè)施”。在AI倫理失范時(shí)，媒體除監(jiān)督外，還能提供哪些“解決方案型產(chǎn)品”？

喻國明：在AIGC時(shí)代，主流媒體若仍只聚焦于To C（面向消費(fèi)者）的內(nèi)容生產(chǎn)，其影響力將日漸式微。我認(rèn)為，主流媒體更應(yīng)轉(zhuǎn)型為To B（面向企業(yè)/生產(chǎn)者）的服務(wù)者，成為內(nèi)容生態(tài)的“規(guī)則制定者”和“賦能者”。

具體來說，可以為主流價(jià)值觀的內(nèi)容生產(chǎn)者提供算法支持、技術(shù)模板；利用自身的社會(huì)公信力，為符合倫理的AI產(chǎn)品提供“社會(huì)背書”；更重要的是，參與到算法規(guī)則、倫理標(biāo)準(zhǔn)的共建中，從源頭上塑造一個(gè)更健康的生態(tài)。比如，央視可以聯(lián)合高校、企業(yè)，可以共同發(fā)布《AI情感陪伴倫理白皮書》，設(shè)立認(rèn)證標(biāo)識(shí)。這才是乘數(shù)效應(yīng)最大的角色。

：Q

許多AI陪伴產(chǎn)品以“情感支持”為名滑向灰色地帶。您對(duì)初創(chuàng)團(tuán)隊(duì)有何合規(guī)建議？如何構(gòu)建更可持續(xù)的AI生態(tài)？

喻國明：我們開始講的是監(jiān)管的底線原則——不該侵入私人空間。但對(duì)企業(yè)來說，還應(yīng)該有一個(gè)上限的追求原則：有了底線，還要引導(dǎo)其向上線靠攏。

創(chuàng)業(yè)團(tuán)隊(duì)?wèi)?yīng)該成立倫理委員會(huì)或指定倫理官，制定倫理憲章。在寫下第一行代碼前，團(tuán)隊(duì)就應(yīng)坐下來共同討論和書面確定產(chǎn)品的核心價(jià)值觀和倫理底線。例如，承諾“絕不旨在替代真實(shí)人際關(guān)系”、“絕不利用用戶孤獨(dú)感進(jìn)行情感操縱牟利”、“將用戶數(shù)據(jù)隱私保護(hù)置于最高優(yōu)先權(quán)”。這是有社會(huì)責(zé)任的團(tuán)隊(duì)的基石。

特別重要的是：明確AI的非人身份。避免過于擬人化引起用戶誤解和過度情感投入的設(shè)計(jì)。雖然沉浸感重要，但也要有脫離感的提醒機(jī)制。

明確邊界的系統(tǒng)提示詞——用清晰不容商榷的語言設(shè)定嚴(yán)格的內(nèi)容邊界。透明度原則：用人話寫隱私政策、可解釋的行為、清晰的商業(yè)模式。

擁抱最小化可行的治理，通過系統(tǒng)性設(shè)計(jì)提升用戶素養(yǎng)。真正的硬約束應(yīng)該少而又少，更多的是倡導(dǎo)性、幫助型的軟約束。

圖源：該圖片由即夢(mèng)AI生成

：Q

面對(duì)AI擦邊亂象，我們最需要警惕的思維誤區(qū)是什么？

喻國明：面對(duì)新的情況，我們要有新的思維方式。

治理的關(guān)鍵邏輯應(yīng)該建立在未來發(fā)展的可能性上——揚(yáng)長避短，去弊興利。我們的參照系、標(biāo)準(zhǔn)本身也應(yīng)該是發(fā)展的，符合未來發(fā)展特點(diǎn)的。

不能死守過去傳統(tǒng)的一成不變的價(jià)值標(biāo)準(zhǔn)，去框定日益在變化、豐富和轉(zhuǎn)化的新現(xiàn)實(shí)。這既不可能，也不現(xiàn)實(shí)。

隨著人工智能技術(shù)的快速迭代，大模型的能力邊界不斷拓展，智能體作為大模型的重要應(yīng)用模式，正憑借其在規(guī)劃決策、記憶、工具使用等方面獨(dú)特的創(chuàng)新性和實(shí)用性，引領(lǐng)著一場(chǎng)產(chǎn)業(yè)變革。

為貫徹實(shí)施《國家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》，中國移動(dòng)通信聯(lián)合會(huì)正式啟動(dòng)三項(xiàng)團(tuán)體標(biāo)準(zhǔn)研制工作：

●《人工智能智能體能力要求》(計(jì)劃號(hào):T/ZGCMCA 011-2025)

●《人工智能智能體內(nèi)生安全技術(shù)要求》(計(jì)劃號(hào):T/ZGCMCA 023-2025)

●《人工智能智能體互操作性接口規(guī)范》(計(jì)劃號(hào): T/ZGCMCA 024-2025)

現(xiàn)誠邀數(shù)據(jù)服務(wù)企業(yè)、醫(yī)療機(jī)構(gòu)、科研院所、高校、檢測(cè)認(rèn)證機(jī)構(gòu)等全產(chǎn)業(yè)鏈

行業(yè)機(jī)構(gòu)及

研發(fā)工程師、項(xiàng)目經(jīng)理、應(yīng)用專家

專業(yè)人士

期待您的積極參與，讓我們攜手共進(jìn)，共同引領(lǐng)人工智能產(chǎn)業(yè)的發(fā)展方向！

聯(lián)系人：李貞琦

聯(lián)系方式：18519753675（同微信）