編者按

人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，正深刻重塑世界經(jīng)濟(jì)格局、社會(huì)治理模式與人類(lèi)生活方式。我國(guó)此前發(fā)布《全球人工智能治理倡議》，倡導(dǎo)以人為本、智能向善，推動(dòng)構(gòu)建開(kāi)放、公正、包容、有效的全球人工智能治理體系。

近日，在中國(guó)科協(xié)組織下，中國(guó)人工智能學(xué)會(huì)等16家單位共同起草《全球人工智能治理科技社團(tuán)倡議》，圍繞確保人工智能安全有益、賦能民生發(fā)展、嚴(yán)守安全底線、防范技術(shù)風(fēng)險(xiǎn)等方面發(fā)出倡議。

值此契機(jī)，中國(guó)科協(xié)之聲對(duì)話人工智能領(lǐng)域?qū)＜?，共同探討人工智能治理為何刻不容緩、中?guó)方案有何亮點(diǎn)、科技社團(tuán)應(yīng)如何發(fā)揮作用。

專(zhuān)家簡(jiǎn)介

梁正，中國(guó)科學(xué)學(xué)與科技政策研究會(huì)副秘書(shū)長(zhǎng)，長(zhǎng)期從事人工智能治理領(lǐng)域研究，參與國(guó)家中長(zhǎng)期科技發(fā)展規(guī)劃戰(zhàn)略研究等國(guó)家級(jí)重大咨詢(xún)課題。

孫富春，中國(guó)人工智能學(xué)會(huì)副理事長(zhǎng)，長(zhǎng)期從事具身智能與機(jī)器人靈巧操作領(lǐng)域的研究。

崔勇，中國(guó)通信學(xué)會(huì)智能體通信專(zhuān)業(yè)委員會(huì)主任委員，曾擔(dān)任國(guó)際互聯(lián)網(wǎng)標(biāo)準(zhǔn)化組織IETF工作組主席，主要研究領(lǐng)域包括互聯(lián)網(wǎng)體系結(jié)構(gòu)、下一代互聯(lián)網(wǎng)和網(wǎng)絡(luò)安全等。

治理為何刻不容緩：

從“對(duì)話”到“行動(dòng)”的風(fēng)險(xiǎn)躍遷

中國(guó)科協(xié)之聲：當(dāng)前，無(wú)論是聯(lián)合國(guó)、各國(guó)政府還是科技社團(tuán)，都在密集推動(dòng)AI治理。這一輪治理緊迫性的技術(shù)根源是什么？

孫富春：最根本的變化是，人工智能已經(jīng)從過(guò)去的交互理解、問(wèn)答系統(tǒng)，進(jìn)入到了行動(dòng)階段。這意味著AI從表征走向行為、從開(kāi)環(huán)進(jìn)入閉環(huán)。隨著機(jī)器人傳感技術(shù)、認(rèn)知決策與行為技術(shù)的不斷發(fā)展，具身智能在機(jī)器人上的應(yīng)用日益廣泛。機(jī)器能通過(guò)理解人類(lèi)意圖自主生成任務(wù)、執(zhí)行行為，這就引發(fā)了諸多倫理問(wèn)題。比如，過(guò)去由人類(lèi)完成的炒股、購(gòu)物等行為，現(xiàn)在機(jī)器可以自主完成，甚至可能被用于犯罪。這就引申出一個(gè)核心問(wèn)題：機(jī)器犯錯(cuò)，該懲罰誰(shuí)？對(duì)此，有三種主要思潮——將機(jī)器視為人造物體，責(zé)任在人類(lèi)；將機(jī)器比作寵物，責(zé)任在其“監(jiān)護(hù)人”；若機(jī)器達(dá)到高度自主、擁有類(lèi)人智慧，則需直接對(duì)其進(jìn)行懲罰。這些不是遙遠(yuǎn)未來(lái)的假設(shè)，而是正在逼近的現(xiàn)實(shí)。

崔勇：從計(jì)算機(jī)網(wǎng)絡(luò)的視角來(lái)看。過(guò)去，大模型多是基于文本或多媒體的問(wèn)答交互，對(duì)生產(chǎn)生活未必能產(chǎn)生直接影響；但現(xiàn)在，它已能直接加速各行各業(yè)的效率提升，這是非常突出的優(yōu)勢(shì)。但是，如果存在安全隱患，這種加速的負(fù)面影響也會(huì)被大幅放大。我個(gè)人研究計(jì)算機(jī)網(wǎng)絡(luò)，更關(guān)注多智能體互聯(lián)互通時(shí)的問(wèn)題——比如數(shù)據(jù)自保護(hù)、數(shù)據(jù)不出境、數(shù)據(jù)隱私等。這些方面都需要進(jìn)一步加強(qiáng)監(jiān)管或規(guī)范流程，這是十分必要的。以智能體通信為例，不同智能體之間如果缺乏安全網(wǎng)關(guān)，惡意指令可能直接刪除用戶(hù)文件，這并非危言聳聽(tīng)。

梁正：我注意到一個(gè)時(shí)間節(jié)點(diǎn)：從去年下半年開(kāi)始，人工智能治理問(wèn)題已經(jīng)到了“不解決不行”的地步。在科研領(lǐng)域，AI用于科學(xué)研究帶來(lái)了大量科研誠(chéng)信問(wèn)題；在教育領(lǐng)域，學(xué)生使用AI難以鑒別、相關(guān)規(guī)范缺失；在社會(huì)層面，公眾對(duì)人工智能的認(rèn)知要么過(guò)度夸大替代作用，要么認(rèn)為它離生活很遙遠(yuǎn)。今年兩會(huì)已經(jīng)明確，正式啟動(dòng)人工智能立法工作。需要強(qiáng)調(diào)的是，治理不是要踩剎車(chē)，而是要給高速行駛的車(chē)裝上可靠的導(dǎo)航和護(hù)欄?？萍忌鐖F(tuán)作為獨(dú)立、專(zhuān)業(yè)、理性的主體，最適合承擔(dān)提供這一公共產(chǎn)品的責(zé)任。

困境何在：

技術(shù)迭代、地緣政治與認(rèn)知偏差的三重落差

中國(guó)科協(xié)之聲：既然緊迫性如此明確，為什么全球AI治理仍然舉步維艱？

梁正：核心困境有三層。第一，治理跟不上技術(shù)發(fā)展速度。人工智能技術(shù)迭代太快，治理規(guī)則難以快速適配。去年看似遙遠(yuǎn)的問(wèn)題，今年已經(jīng)非?，F(xiàn)實(shí)。第二，地緣政治格局復(fù)雜。部分領(lǐng)先國(guó)家采取“以鄰為壑”“拉小圈子”的方式，不愿分享前沿技術(shù)。同時(shí)，南方國(guó)家擔(dān)心被邊緣化，很多國(guó)家甚至沒(méi)有能力參與討論。第三，社會(huì)認(rèn)知與技術(shù)實(shí)際存在偏差。公眾要么過(guò)度夸大，要么過(guò)于疏離。這三個(gè)落差——技術(shù)發(fā)展與治理的落差、各國(guó)能力與發(fā)展的落差、社會(huì)認(rèn)知與實(shí)際的落差——是全球人工智能治理難以形成共識(shí)的根本原因。

崔勇：我長(zhǎng)期參與IETF國(guó)際標(biāo)準(zhǔn)制定。國(guó)際互聯(lián)網(wǎng)標(biāo)準(zhǔn)組織IETF已經(jīng)舉辦了120多次會(huì)議，但只來(lái)過(guò)中國(guó)兩次。在最近的深圳會(huì)議上，國(guó)際社會(huì)對(duì)智能體通信、智能體互聯(lián)互通的關(guān)注度極高，大家都在探討如何快速制定既安全又高效的協(xié)議。但問(wèn)題是，技術(shù)先進(jìn)是掌握話語(yǔ)權(quán)的關(guān)鍵。目前，我國(guó)論文發(fā)表量世界第一，高水平論文也領(lǐng)先，但在國(guó)際標(biāo)準(zhǔn)制定方面與世界頂尖水平還有較大差距。這說(shuō)明我們是互聯(lián)網(wǎng)大國(guó)，還不是頂尖的互聯(lián)網(wǎng)強(qiáng)國(guó)。此外，簽證等問(wèn)題也影響我們參與國(guó)際組織——IETF每年在北美舉辦一次會(huì)議，這些現(xiàn)實(shí)阻礙不容忽視。

孫富春：除了制度和標(biāo)準(zhǔn)層面的困境，還有技術(shù)本身的風(fēng)險(xiǎn)根源。AI的偏好問(wèn)題、幻覺(jué)問(wèn)題、造假問(wèn)題，都需要從技術(shù)層面破解。比如，谷歌曾將美國(guó)黑人標(biāo)注為黑猩猩，這就是訓(xùn)練數(shù)據(jù)中的潛意識(shí)偏見(jiàn)；此外，目前大模型的幻覺(jué)率還比較高。這些技術(shù)問(wèn)題不解決，治理就會(huì)變成“空中樓閣”。但我想強(qiáng)調(diào)的是，治理困境的深層原因，其實(shí)與人的思考方式有關(guān)。我們當(dāng)前最大的問(wèn)題就是浮躁、缺少深度思考。在AI時(shí)代，要保持深度思考，就要不隨波逐流，不執(zhí)著于名利，一輩子堅(jiān)持一件事深耕下去，才能實(shí)現(xiàn)突破。

中國(guó)方案：

不另起爐灶，貢獻(xiàn)最大公約數(shù)

中國(guó)科協(xié)之聲：在這樣的全球困局中，中國(guó)科技社團(tuán)發(fā)布的《全球人工智能治理科技社團(tuán)倡議》想要傳遞怎樣的信號(hào)？

梁正：首先，我們要明確一個(gè)態(tài)度，不另起爐灶，而是加強(qiáng)聯(lián)合國(guó)的作用。倡議中明確提出推進(jìn)在聯(lián)合國(guó)框架下成立國(guó)際人工智能治理機(jī)構(gòu)。聯(lián)合國(guó)在核武器、核軍控等領(lǐng)域已有成熟經(jīng)驗(yàn)，可以借鑒。中國(guó)倡議的亮點(diǎn)在于：一是“以人為本、智能向善”，把“確保有益”和“賦能民生”放在最重要位置；二是“發(fā)展與安全并重”，不認(rèn)為二者對(duì)立；三是“交流互鑒、開(kāi)放包容”，反對(duì)排他性小圈子。這背后是中國(guó)式的價(jià)值理念——集體主義、長(zhǎng)期主義與和諧共生。例如，我們強(qiáng)調(diào)個(gè)人權(quán)利可以在集體利益需要時(shí)適當(dāng)讓步，這與歐洲過(guò)度強(qiáng)調(diào)個(gè)人權(quán)利有所不同。

崔勇：我特別贊同“開(kāi)放包容”這個(gè)方向。國(guó)際互聯(lián)網(wǎng)標(biāo)準(zhǔn)組織IETF有一句名言：“我們拒絕國(guó)王、總統(tǒng)與投票。我們信奉大致共識(shí)與可運(yùn)行代碼?！碑?dāng)年互聯(lián)網(wǎng)先驅(qū)們?cè)O(shè)計(jì)的諸多創(chuàng)新都沒(méi)有申請(qǐng)知識(shí)產(chǎn)權(quán)，而是以開(kāi)發(fā)、開(kāi)源形式貢獻(xiàn)給全世界，這正是互聯(lián)網(wǎng)能快速發(fā)展的關(guān)鍵。我認(rèn)為，在AI和智能體時(shí)代，我們或許也應(yīng)該借鑒這種模式，推動(dòng)全人類(lèi)共同發(fā)展。全球性風(fēng)險(xiǎn)不是單一國(guó)家能應(yīng)對(duì)的，必須各國(guó)協(xié)同發(fā)力。此外，在技術(shù)層面，我們正在研發(fā)“智能體網(wǎng)關(guān)”，通過(guò)國(guó)家或國(guó)際認(rèn)證的網(wǎng)關(guān)對(duì)所有智能體交互進(jìn)行監(jiān)測(cè)和過(guò)濾，這既是中國(guó)技術(shù)創(chuàng)新的體現(xiàn)，也是治理落地的重要抓手。

孫富春：我想從中國(guó)古代哲學(xué)的角度談?wù)勚袊?guó)方案的獨(dú)特性。中國(guó)古代很早就有對(duì)“智能”的研究，最具代表性的是荀子。荀子在《正名》篇中說(shuō)：“知在人者，謂之知；知有所合，謂之智”——人天生具有認(rèn)知能力，當(dāng)這種能力與世間萬(wàn)物交互時(shí)，就會(huì)產(chǎn)生智慧；“能在人者，謂之能；能有所合，謂之才”——人還有求變、創(chuàng)新的能力，當(dāng)這種能力與自身專(zhuān)業(yè)方向結(jié)合，就會(huì)形成才能。荀子還提到“凡以知，人之性也；可以知，物之理也”，強(qiáng)調(diào)好奇心是人的本性。這些思想對(duì)我們今天研究AI、治理AI具有重要的指導(dǎo)意義。我認(rèn)為，中國(guó)方案的優(yōu)勢(shì)不僅在于制度設(shè)計(jì)，更在于我們有一種“天人合一”“和諧共生”的哲學(xué)底色。用中國(guó)古代哲學(xué)指導(dǎo)人工智能發(fā)展，這是一個(gè)值得深挖的方向。比如，腦啟發(fā)的研究——看到鳥(niǎo)飛啟發(fā)我們發(fā)明飛機(jī)——就是這種哲學(xué)思想在技術(shù)上的體現(xiàn)。

從理念到落地：

技術(shù)、制度與人的協(xié)同

中國(guó)科協(xié)之聲：倡議很美好，但如何避免淪為紙面宣言？最關(guān)鍵的落地保障是什么？

梁正：我認(rèn)為有三點(diǎn)。第一，科技社團(tuán)持續(xù)發(fā)揮倡導(dǎo)和教育作用，讓“智能向善”“開(kāi)放包容”等理念深入人心。第二，結(jié)合國(guó)家層面的實(shí)際工作，比如在數(shù)字“一帶一路”中落實(shí)普惠原則，為發(fā)展中國(guó)家提供能力建設(shè)——我所在的清華大學(xué)人工智能?chē)?guó)際治理研究院就與聯(lián)合國(guó)開(kāi)發(fā)計(jì)劃署聯(lián)合舉辦了青年創(chuàng)造營(yíng)等相關(guān)活動(dòng)，為發(fā)展中國(guó)家學(xué)生授課。第三，推動(dòng)行業(yè)和企業(yè)參與，讓倡議要求落到具體實(shí)踐中。比如清華大學(xué)正在打造人工智能醫(yī)院，由多智能體構(gòu)成垂直醫(yī)療領(lǐng)域的專(zhuān)業(yè)模型，可以在很大程度上賦能基層醫(yī)療與公共衛(wèi)生服務(wù)，目前已計(jì)劃在基層醫(yī)院試點(diǎn)。此外，“監(jiān)管沙盒”是一個(gè)重要工具——例如北京亦莊的自動(dòng)駕駛示范區(qū)就是物理沙盒，在可控范圍內(nèi)試驗(yàn)、完善規(guī)則，再逐步推廣。

崔勇：從技術(shù)層面，智能體網(wǎng)關(guān)是一個(gè)重要的解決方案。現(xiàn)在不同智能體之間的交互是直接的，難以監(jiān)控和防范安全隱患。如果所有智能體的交互都通過(guò)國(guó)家或國(guó)際認(rèn)證的網(wǎng)關(guān)進(jìn)行，網(wǎng)關(guān)就能全面監(jiān)測(cè)所有交互行為，防范隱私泄露等問(wèn)題。比如工資賬單，在人事部門(mén)內(nèi)部流轉(zhuǎn)無(wú)需特殊處理，但流轉(zhuǎn)到其他部門(mén)時(shí)，就可以通過(guò)網(wǎng)關(guān)進(jìn)行脫敏處理。這項(xiàng)技術(shù)雖然還在研發(fā)階段，但它代表了技術(shù)治理的一個(gè)可行方向。此外，我們需要引導(dǎo)科研人員將發(fā)表論文的動(dòng)力，轉(zhuǎn)向?qū)⒀芯砍晒D(zhuǎn)化為國(guó)際標(biāo)準(zhǔn)。同時(shí)，加強(qiáng)專(zhuān)業(yè)人才隊(duì)伍建設(shè)——不僅要培養(yǎng)學(xué)生的代碼能力、算法能力，還要提升他們?cè)趪?guó)際規(guī)則制定、話語(yǔ)權(quán)表達(dá)方面的綜合能力。

孫富春：我特別想強(qiáng)調(diào)一個(gè)容易被忽視的維度——人的回歸與深度思考。AI時(shí)代看似是技術(shù)發(fā)展，實(shí)則是人的智慧、人文素養(yǎng)和深度思考能力的競(jìng)爭(zhēng)。人類(lèi)的創(chuàng)造性，源于大腦多個(gè)區(qū)域的協(xié)同作用，而文科培養(yǎng)的跳躍式思維正是激發(fā)創(chuàng)造性的關(guān)鍵。我們現(xiàn)在研究AI時(shí)，會(huì)重點(diǎn)關(guān)注“腦啟發(fā)”方向。人文素養(yǎng)帶來(lái)的想象力和深度思考，正是推動(dòng)AI向更高階發(fā)展的重要支撐。在教學(xué)中，我會(huì)引導(dǎo)學(xué)生多總結(jié)、多規(guī)劃、多預(yù)測(cè)，培養(yǎng)想象力和規(guī)劃能力。同時(shí)，我也會(huì)鼓勵(lì)學(xué)生一輩子深耕一個(gè)領(lǐng)域，不浮躁、不追求表面名利。只有這樣，我們才能在AI時(shí)代真正保持人的主體性，而不是被技術(shù)異化。

中國(guó)科協(xié)之聲：科技社團(tuán)在全球AI治理中應(yīng)該扮演怎樣的角色？

梁正：科技社團(tuán)要做那個(gè)連接各方、凝聚共識(shí)、基于證據(jù)發(fā)聲的橋梁，既不取代政府，也不屈從商業(yè)。同時(shí)，科技社團(tuán)要持續(xù)發(fā)揮倡導(dǎo)和教育作用，讓“智能向善”“開(kāi)放包容”等理念深入人心——這是治理落地的價(jià)值基礎(chǔ)。

崔勇：科技社團(tuán)要推動(dòng)技術(shù)標(biāo)準(zhǔn)與治理規(guī)則協(xié)同演進(jìn)，讓“可運(yùn)行的代碼”成為全球互信的基石。此外，科技社團(tuán)應(yīng)積極搭建高水平國(guó)際交流平臺(tái)，深度參與國(guó)際標(biāo)準(zhǔn)規(guī)則制定，在智能體通信等前沿領(lǐng)域推動(dòng)安全高效的互聯(lián)互通協(xié)議，從而提升我國(guó)在國(guó)際治理中的話語(yǔ)權(quán)。

孫富春：科技社團(tuán)要守護(hù)人類(lèi)在認(rèn)知與創(chuàng)新方面的優(yōu)勢(shì)，讓AI真正服務(wù)于人的全面發(fā)展——這或許是中國(guó)古代哲學(xué)給世界最大的啟示。同時(shí)，科技社團(tuán)可以借助“獨(dú)立第三方”的靈活優(yōu)勢(shì)，推動(dòng)民間層面的國(guó)際合作，凝聚各國(guó)在人工智能倫理與安全上的最大公約數(shù)。

來(lái)源：中國(guó)科協(xié)之聲

責(zé)編：葉　揚(yáng)

美編：陳路漫

一審：何百岳

二審：方佳佳

三審：王陸軍