平時(shí)我們刷手機(jī)遇到的AI陪伴助手、虛擬情感好友，甚至給老人孩子提供陪伴的智能互動(dòng)產(chǎn)品，今后將有明確的“行為規(guī)范”了。今年7月15日，《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》將正式施行。那什么是“人工智能擬人化互動(dòng)服務(wù)”呢？

《辦法》規(guī)定的“人工智能擬人化互動(dòng)服務(wù)”是指，利用人工智能技術(shù)，向中華人民共和國(guó)境內(nèi)公眾提供的、模擬自然人人格特征、思維模式和溝通風(fēng)格，且能開(kāi)展持續(xù)性情感互動(dòng)的服務(wù)。

而智能客服、知識(shí)問(wèn)答、工作助手等不涉及持續(xù)性情感互動(dòng)的服務(wù)，不屬于此類(lèi)擬人化互動(dòng)服務(wù)，不適用該辦法監(jiān)管。

中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長(zhǎng) 李懷勝：這類(lèi)服務(wù)通過(guò)模擬人類(lèi)情感和溝通方式，很容易讓用戶(hù)產(chǎn)生非理性的依賴(lài)，削弱現(xiàn)實(shí)的社交能力，甚至可能被用于情感操控或者說(shuō)誘導(dǎo)危險(xiǎn)行為。因此為了填補(bǔ)監(jiān)管空白，防范化解這類(lèi)潛在風(fēng)險(xiǎn)，同時(shí)也是為了響應(yīng)國(guó)家關(guān)于完善人工智能治理體系的戰(zhàn)略部署，出臺(tái)針對(duì)性的管理規(guī)范。

嚴(yán)禁向未成年人提供虛擬伴侶等服務(wù)

《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》還聚焦未成年人保護(hù)，從服務(wù)限制、身份識(shí)別到監(jiān)護(hù)管控，給出了解決方案。

針對(duì)未成年人保護(hù)，《辦法》作出明確規(guī)定：嚴(yán)禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù)；向不滿(mǎn)十四周歲未成年人提供其他擬人化互動(dòng)服務(wù)的，應(yīng)當(dāng)取得未成年人的父母或者其他監(jiān)護(hù)人的同意；要求建立未成年人模式，支持監(jiān)護(hù)人管控使用行為、限制充值消費(fèi)等。

北京航空航天大學(xué)法學(xué)院副教授 趙精武：禁止向未成年人提供虛擬親屬、虛擬伴侶的服務(wù)，主要考慮的是未成年人正處于三觀形成和培育階段，虛擬親密關(guān)系服務(wù)容易誤導(dǎo)未成年人對(duì)現(xiàn)實(shí)生活當(dāng)中的親屬和伴侶關(guān)系產(chǎn)生一些錯(cuò)誤的認(rèn)識(shí)。還需要結(jié)合未成年人的年齡段，設(shè)置針對(duì)不同特定年齡段層次化的未成年人的保護(hù)措施和內(nèi)容，一旦未成年人在使用過(guò)程中出現(xiàn)極端性情緒，應(yīng)當(dāng)提供相應(yīng)的援助這些必要的措施，并及時(shí)聯(lián)絡(luò)用戶(hù)的監(jiān)護(hù)人或者緊急聯(lián)系人。

全面保障用戶(hù)數(shù)據(jù)的控制權(quán)與隱私安全

針對(duì)人工智能擬人化互動(dòng)“情感綁定、持續(xù)交互、易產(chǎn)生依賴(lài)”的特殊屬性，《辦法》從制度層面，填補(bǔ)了相關(guān)領(lǐng)域的治理空白。

在用戶(hù)數(shù)據(jù)保護(hù)上，《辦法》明確除法定情形或用戶(hù)同意外，服務(wù)提供者不得向第三方提供用戶(hù)交互數(shù)據(jù)，嚴(yán)格限制敏感個(gè)人信息用于模型訓(xùn)練，全面保障用戶(hù)數(shù)據(jù)的控制權(quán)與隱私安全。

同時(shí)，要求服務(wù)提供者設(shè)定強(qiáng)制干預(yù)義務(wù)，包括用戶(hù)如果出現(xiàn)極端情緒時(shí)需及時(shí)干預(yù)，另外需提醒用戶(hù)控制使用時(shí)長(zhǎng)，防范沉迷與情感依賴(lài)。

中國(guó)政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長(zhǎng) 李懷勝：這些規(guī)定大大提升了用戶(hù)隱私的保護(hù)力度，意味著企業(yè)不能隨意將用戶(hù)在聊天中透露出的敏感信息，比如說(shuō)健康狀況等，直接用于優(yōu)化其大模型的訓(xùn)練。此外，《辦法》還規(guī)定，提供者不得向第三方提供用戶(hù)交互數(shù)據(jù)，除非有法律或者用戶(hù)的明確同意，并需要向用戶(hù)提供交互數(shù)據(jù)的復(fù)制刪除等選項(xiàng)，這也是為了保障用戶(hù)對(duì)其個(gè)人信息的控制權(quán)。

新規(guī)施行在即

相關(guān)企業(yè)要加快合規(guī)準(zhǔn)備

《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》將于今年7月15日施行，相關(guān)企業(yè)也要加快合規(guī)準(zhǔn)備，以促進(jìn)行業(yè)步入“安全有序、向上向善”的發(fā)展新階段。

《辦法》對(duì)人工智能擬人化互動(dòng)服務(wù)提供者，明確了四項(xiàng)核心要求，具體可理解為：

一是開(kāi)展服務(wù)屬性自查，明確自身服務(wù)是否屬于監(jiān)管范圍，杜絕不合規(guī)服務(wù)違規(guī)運(yùn)營(yíng)；

二是建立全流程管理制度，涵蓋算法審核、倫理審查、應(yīng)急處置等關(guān)鍵環(huán)節(jié)，規(guī)范服務(wù)運(yùn)行；

三是按要求開(kāi)展安全評(píng)估，依法完成算法備案、變更及注銷(xiāo)等相關(guān)手續(xù)，保障服務(wù)安全穩(wěn)定；

四是嚴(yán)格落實(shí)法定義務(wù)，做好數(shù)據(jù)安全保護(hù)、一老一小群體保護(hù)及用戶(hù)情緒干預(yù)提醒，完善用戶(hù)申訴舉報(bào)機(jī)制。

北京航空航天大學(xué)法學(xué)院副教授 趙精武：AI擬人化互動(dòng)服務(wù)的發(fā)展方向是文化傳播和情感陪伴，在技術(shù)創(chuàng)新與倫理規(guī)范之間的需求需要進(jìn)一步平衡，首先應(yīng)該明確人類(lèi)的主體地位和人格尊嚴(yán)保護(hù)的底線(xiàn)要求。任何擬人化服務(wù)的方式創(chuàng)新都不應(yīng)當(dāng)以減損現(xiàn)實(shí)情感交互為前提。擬人化互動(dòng)服務(wù)的功能是對(duì)現(xiàn)有的情感交互的有益補(bǔ)充，而不是單純的替代。