《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》是一部重構(gòu)網(wǎng)絡(luò)科技與人機關(guān)系的法律秩序法，規(guī)制方向是平衡技術(shù)演進與用戶安全管理，預防AI擬人化帶來的負面侵權(quán)行為，核心理念是構(gòu)建一套以人為本、權(quán)責清晰、科技向善的公共秩序和倫理。

文｜王風和

ID | BMR2004

人工智能驅(qū)動的擬人化互動服務能夠提供無條件的積極關(guān)注和情感支持，這種單向的、無風險的情感投注極易使用戶產(chǎn)生心理依賴。用戶在與AI的長期互動中，可能將情感寄托于虛擬世界，導致現(xiàn)實社交技能的退化，甚至引發(fā)社交焦慮。

正因如此，2025年12月，《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》（以下簡稱《辦法》）全文公布，公開征求意見。該《辦法》通篇強化了權(quán)利意識、秩序意識，閃耀著以人為本、技術(shù)向善的價值觀。

《辦法》明確要堅持健康發(fā)展和依法治理相結(jié)合的原則，鼓勵擬人化互動服務創(chuàng)新發(fā)展，對擬人化互動服務實行包容審慎和分類分級監(jiān)管，防止濫用失控。

01

安全與發(fā)展并重

針對人工智能情感陪伴類AI服務，《辦法》態(tài)度明確，鼓勵發(fā)展并予以合理規(guī)制，體現(xiàn)了“安全與發(fā)展并重”的監(jiān)管思路?！掇k法》聚焦情感陪伴類AI可能帶來的沉迷、心理傷害、隱私泄露等風險，通過明確禁止性行為，如誘導自殺、情感操控等，以及針對未成年人、老年人等特殊群體的保護條款，將用戶安全置于首位。

與此同時，《辦法》對服務提供者的主體責任、數(shù)據(jù)管理、安全評估等提出系統(tǒng)性要求。

更重要的是，《辦法》強調(diào)不得將“替代社會交往、誘導沉迷依賴”作為設(shè)計目標，引導企業(yè)將技術(shù)研發(fā)重點轉(zhuǎn)向提供有價值的服務，促進技術(shù)與人文關(guān)懷的結(jié)合，體現(xiàn)了以人為本、引導技術(shù)向善的價值導向。

《辦法》的亮點在于將“防沉迷”和“心理危機干預”變成可執(zhí)行的規(guī)定，防止用戶形成AI癮，最終釀成苦果，并明確了在情感陪伴AI場景下的預防干預措施。

當用戶正在與人工智能而非自然人進行交互時，在關(guān)鍵節(jié)點（如初次使用、重新登錄）要動態(tài)提醒。在情感陪伴AI場景中，需在交互界面明顯位置（如聊天窗口、設(shè)置菜單）明確標注“AI身份”，避免使用可能誤導用戶認為是真人的話語或形象。例如，不能使用“我懂你”“我是你的朋友”等易引發(fā)認知混淆的表述，而應采用“我是AI陪伴助手”等清晰標識，避免誤認。

在時間管控上，當用戶連續(xù)使用服務超過2小時，平臺需以彈窗等方式動態(tài)提醒用戶暫停使用，并提供便捷的退出途徑，不得阻攔用戶主動退出。退出路徑應簡單直接，如設(shè)置“退出”按鈕，點擊后立即停止服務，不能設(shè)置復雜流程或誘導用戶繼續(xù)使用的隱蔽設(shè)計。

最關(guān)鍵的是心理危機干預機制，服務提供者須具備用戶狀態(tài)識別能力，當發(fā)現(xiàn)用戶存在極端情緒和沉迷傾向時，必須采取必要措施予以干預；當用戶明確提出實施自殺、自殘等極端行為時，如情緒識別算法檢測到用戶表達抑郁、絕望、有自殺傾向等極端情緒后，應立即觸發(fā)人工干預流程，由人工接管對話，并及時聯(lián)絡(luò)用戶監(jiān)護人、緊急聯(lián)系人，防止悲劇發(fā)生。

02

落地合規(guī)“四本賬”

《辦法》第十條提出，提供者開展預訓練、優(yōu)化訓練等數(shù)據(jù)處理活動時，應當加強訓練數(shù)據(jù)管理，要遵守“訓練數(shù)據(jù)合規(guī)”“用戶交互數(shù)據(jù)可追溯與刪除權(quán)”等要求。

從執(zhí)法與合規(guī)審計的角度，這類要求能否落地，關(guān)鍵不在于權(quán)利宣示，而在于能否形成可驗證、可復盤、可抽查的證據(jù)。結(jié)合《辦法》的條款設(shè)計，企業(yè)需要建立“四本賬”：一是訓練數(shù)據(jù)合規(guī)賬。要求對訓練數(shù)據(jù)的清洗、標注、日常檢查與迭代形成流程記錄，更關(guān)鍵的是來源合法、可追溯，要能落到“數(shù)據(jù)來源證明+授權(quán)鏈條+采購合同/開源許可+抓取規(guī)則+時間戳+責任人”的組合證據(jù)上。

二是數(shù)據(jù)安全與防泄露賬。訓練數(shù)據(jù)與交互數(shù)據(jù)要分級分類、加密，設(shè)置訪問控制，審計要留痕，形成安全審計報告與整改閉環(huán)。

三是交互數(shù)據(jù)治理賬。對用戶交互數(shù)據(jù)采取加密、安全審計、訪問控制，并提供刪除聊天記錄等歷史交互數(shù)據(jù)的選項（未成年人還涉及監(jiān)護人請求權(quán)特別規(guī)定）。

四是不用交互數(shù)據(jù)訓練的同意賬。原則上不得將用戶交互數(shù)據(jù)、敏感個人信息用于訓練，除非取得用戶單獨同意（未成年人還要符合法律授權(quán)的同意門檻與合規(guī)審計要求）。

同時，《辦法》對“全生命周期安全責任、運行監(jiān)測與風險評估、依法留存網(wǎng)絡(luò)日志”“上線/重大變更/用戶規(guī)模達到閾值的安全評估”“算法備案年度復審”等也提供了監(jiān)管抓手，監(jiān)管部門可以通過書面審查、現(xiàn)場檢查、約談整改等方式，倒逼上述證據(jù)鏈的固化。

03

厘清認知與歸責

情感陪伴AI容易導致主體認知混淆，最常見的混淆類型有四種。

一是主體混淆。用戶誤以為在與自然人交流，而非AI?！掇k法》要求“顯著提示正在與人工智能而非自然人交互”,并在初次使用、重新登錄、識別到沉迷依賴等情況下動態(tài)提醒,就是針對這一風險點。

二是能力混淆。使用者把情感陪伴AI當成“專業(yè)心理咨詢”或“醫(yī)療建議”?！掇k法》要求平臺具備高風險傾向識別能力、必要時人工接管、提供專業(yè)援助方式。

三是關(guān)系混淆。表現(xiàn)為用戶把AI關(guān)系當成現(xiàn)實親密關(guān)系，出現(xiàn)依賴、沉迷、情感操控式消費。為此《辦法》明確禁止“情感陷阱”“誘導不合理決策”“控制用戶心理、誘導沉迷依賴作為設(shè)計目標”等行為。

四是身份或形象混淆。AI虛擬陪伴者被包裝為特定真實人物，如公眾人物、熟人或親屬，或讓用戶誤以為獲得某自然人授權(quán)背書，對老年人使用AI場景尤其需要特別注意。

根據(jù)最高人民法院最近公布的“AI陪伴軟件侵害人格權(quán)案”等司法案例，情感陪伴AI擅自使用自然人姓名、肖像創(chuàng)設(shè)虛擬陪伴者的行為，侵權(quán)定性呈現(xiàn)擴容趨勢。原有的侵權(quán)可能不是“只用了頭像或名字”,而是對“整體人格形象”的不當商業(yè)化利用，侵權(quán)范圍從個人名譽權(quán)糾紛擴容至商業(yè)盈利的侵權(quán)責任。

在“AI陪伴軟件侵害人格權(quán)案”中,法院的核心觀點非常清晰:用戶以原告姓名、肖像為標識創(chuàng)設(shè)“AI陪伴者”,并通過上傳表情包、制作互動素材進行“調(diào)教”,將姓名、肖像、人格特點綜合投射到AI角色上，形成了原告的虛擬形象；運營方對這一機制進行系統(tǒng)性功能設(shè)計與商業(yè)化利用，構(gòu)成對人格權(quán)的侵害。更重要的是,該案對“平臺是不是技術(shù)中立”也給予了否定性評價：當平臺在算法設(shè)計與規(guī)則設(shè)定中嵌入主觀目的并組織用戶創(chuàng)設(shè)、傳播侵權(quán)虛擬形象時，不能簡單以“技術(shù)中立”免責。責任形態(tài)通常是“停止侵害+消除影響或賠禮道歉+賠償損失(含精神損害)”。

《辦法》實施后，預計爭議點會進一步“前置化”,平臺以“我不知道”抗辯的難度加大。《辦法》如果按現(xiàn)有結(jié)構(gòu)落地，會帶來三點實務變化，即提示義務、數(shù)據(jù)義務、風控義務被“明確寫進規(guī)制清單”,例如顯著提示AI身份、動態(tài)提醒、交互數(shù)據(jù)刪除選項、交互數(shù)據(jù)不得擅自用于訓練等，一旦缺位更容易被認定為“有制度性過錯”。監(jiān)管抓手更強,安全評估、算法備案、年度復審、約談檢查、應用商店上架核驗等,會讓平臺在訴訟中更難解釋“治理能力不足”。責任鏈條更清晰,應用分發(fā)平臺也被明確要求核驗安全評估或備案并采取下架等措施,未來在“平臺—分發(fā)—開發(fā)”之間的責任分配會更精細。

當用戶因情感陪伴AI產(chǎn)生認知混淆而遭受財產(chǎn)損失或精神損害時應以“誰控制風險、誰獲利、誰最接近證據(jù)”為主線。實務中常見會被同時納入審查的主體包括服務提供者或平臺運營方,他們通常是第一責任人，對產(chǎn)品設(shè)計、角色機制、內(nèi)容治理、提示義務、未成年人或高風險干預、數(shù)據(jù)處理負有直接管理義務，《辦法》把安全主體責任、全生命周期責任重點壓在他們肩上。

《辦法》是一部重構(gòu)網(wǎng)絡(luò)科技與人機關(guān)系的法律秩序法，《辦法》的規(guī)制方向是平衡技術(shù)演進與用戶安全管理，預防AI擬人化帶來的負面侵權(quán)行為，核心理念是構(gòu)建一套以人為本、權(quán)責清晰、科技向善的公共秩序和倫理。這是一部在人工智能背景下的人權(quán)保護法案，也是一部公共秩序的保護法案，希望中國式立法的初衷能夠全面實現(xiàn)，為全球人工智能治理提供寶貴的東方經(jīng)驗。