人類如何與AI智能體共處

編者按

新質(zhì)策源導(dǎo)刊的第二期，我們聚焦AI智能體（AI Agent），不僅僅因為它當(dāng)下的熱度，更因為我們看到了它對未來的影響。我們深度訪談行業(yè)頂級專家、資深研究人員、國內(nèi)外知名企業(yè)，盡力描繪當(dāng)下AI時代的真實圖景，展望未來的各種可能性，在不確定性中尋找確定性。

這個領(lǐng)域創(chuàng)新不斷，猶如科幻即將照入現(xiàn)實。我們想知道的不只是近在咫尺的明天會怎樣，更想知道今天我們做的一切，會對不遠(yuǎn)的未來產(chǎn)生什么樣的影響，誠邀您和我們一起，探索新AI時代。敬請關(guān)注本期策劃——“人類如何與AI智能體共處”。

——訪對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可

■中國經(jīng)濟(jì)時報記者王彩娜

當(dāng)人工智能從“語言交互”跨越至“自主行動”，AI智能體正加快重塑產(chǎn)業(yè)生態(tài)與社會治理，同時也對個人信息保護(hù)、法律責(zé)任劃分乃至人機(jī)關(guān)系本質(zhì)提出了嚴(yán)峻挑戰(zhàn)。中國經(jīng)濟(jì)時報記者日前專訪了對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可，深入探討AI智能體治理的現(xiàn)實路徑與法治未來。

產(chǎn)業(yè)發(fā)展：從“語言交互”到“自主行動”的關(guān)鍵飛躍

中國經(jīng)濟(jì)時報：AI智能體在人工智能發(fā)展進(jìn)程中，處于怎樣的階段？當(dāng)前AI智能體市場熱度持續(xù)攀升，您如何判斷其后續(xù)的發(fā)展趨勢？

許可：AI智能體是人工智能真正進(jìn)入現(xiàn)實的關(guān)鍵性發(fā)展階段，也是最重要的產(chǎn)品和服務(wù)形態(tài)。此前的對話式AI、問答機(jī)器人，更多停留在信息收集、生成和交互的語言層面，而AI智能體實現(xiàn)了從“語言交互”到“自主行動”的飛躍。人類社會的發(fā)展核心在于“做事”，行動才是對現(xiàn)實產(chǎn)生影響的關(guān)鍵，AI智能體恰恰能完成大量事務(wù)性工作，還能通過具身智能實現(xiàn)與物理世界的交互，未來在生活、工作的各類場景中，都會成為重要的支撐，推動人工智能真正融入現(xiàn)實社會。

AI智能體的發(fā)展日新月異，2026年是AI智能體落地實施、產(chǎn)生現(xiàn)實影響的關(guān)鍵一年。目前中美兩國的發(fā)展路徑有明顯差異，中國先從ToC的消費端場景切入，而美國更多是ToB的工作場景應(yīng)用。對于中國而言，除了消費端，ToG的政務(wù)服務(wù)場景有巨大發(fā)展空間，中國政府的服務(wù)范圍廣、與民生聯(lián)系緊密，將AI智能體嵌入政務(wù)工作流，能有效提升政府效率，助力數(shù)字化、智能化政務(wù)服務(wù)建設(shè)，這也是中國與美國發(fā)展的差異化優(yōu)勢。當(dāng)然，無論哪個場景的發(fā)展，都要先筑牢安全底線，做好框架治理和行業(yè)共識建設(shè)。

圖片來源/新華社

法律治理：分層施策應(yīng)對發(fā)展新挑戰(zhàn)

中國經(jīng)濟(jì)時報：當(dāng)前AI智能體成為人工智能領(lǐng)域的熱門方向，現(xiàn)有法律法規(guī)對其是否具備適用性，又面臨哪些新的挑戰(zhàn)，該如何應(yīng)對？如何看待當(dāng)前出現(xiàn)的新模式？

許可：AI智能體并非完全獨立的新事物，而是人工智能發(fā)展的新階段，現(xiàn)有針對人工智能、數(shù)據(jù)、算法等的法律法規(guī)，能解決其發(fā)展中相當(dāng)大部分的法律問題。但這并不意味著現(xiàn)有法規(guī)能覆蓋所有問題，AI智能體的特性也帶來了新挑戰(zhàn)，比如在個人信息保護(hù)方面，傳統(tǒng)個人信息收集使用遵循目的限定和最小必要原則，而AI智能體作為用戶的全方位助手，信息收集和使用的方式、場景豐富且非標(biāo)準(zhǔn)化，遠(yuǎn)超傳統(tǒng)App的處理模式，對個人信息保護(hù)形成了全新挑戰(zhàn)。同時，AI智能體在從類工具向類人、類生命體發(fā)展的過程中，接入第三方主體工具如第三方App、網(wǎng)頁、插件、API時，建構(gòu)出與第三方之間的法律關(guān)系，這也是現(xiàn)有法律需要逐步適配的地方。

當(dāng)前AI智能體“接管”手機(jī)的模式也觸及了治理的核心難題。因為用戶授權(quán)不等于平臺必須接受，AI智能體的自動化能力和潛在不可控性，沖擊了平臺既有的安全與生態(tài)，需建立“雙重授權(quán)”機(jī)制。同時，“接管”模式將風(fēng)險高度集中，一旦失控便是系統(tǒng)性災(zāi)難。智能體與平臺的關(guān)系應(yīng)從對抗走向“握手”，通過行業(yè)協(xié)作建立安全接口與交互標(biāo)準(zhǔn)，實現(xiàn)可持續(xù)的共生。

未來對AI智能體的法律治理可以分為三個層面，首當(dāng)其沖的是安全問題，核心就是網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個人信息保護(hù)，這是新事物發(fā)展的第一步，也是當(dāng)前的重中之重，可通過強(qiáng)制性國家標(biāo)準(zhǔn)、行業(yè)倡議、技術(shù)發(fā)展等多種方式解決。其次是責(zé)任分擔(dān)問題，目前AI智能體仍處于L2、L3發(fā)展階段，還未到完全自主的L4級別，這個階段的核心問題是多元主體參與下的責(zé)任邊界劃分，比如在自動駕駛事故中，駕駛員、車企、軟件服務(wù)商、道路傳感方等多方的責(zé)任界定，這是法律需要重點考量的事后追責(zé)問題。最后是面向未來的L4級別應(yīng)對，當(dāng)AI智能體實現(xiàn)完全自主的觀察、推理和決策時，傳統(tǒng)法律將難以適用，屆時需要從根本上調(diào)整法律框架，應(yīng)對這一全新的法律主體。

放眼未來，當(dāng)具有法律人格與真實意志的自然人，向不透明且具有一定自主性的非人行為體轉(zhuǎn)變之時，我們必須超越舊有框架，摒棄人—機(jī)—平臺互害的零和博弈，構(gòu)想一幅“人—機(jī)—平臺”共生的新圖景。

總 監(jiān) 制丨王列軍車海剛

監(jiān) 制丨陳 波 王 彧 楊玉洋

主 編丨毛晶慧 編 輯丨蔣 帥