人類如何與AI智能體共處

編者按

新質(zhì)策源導刊的第二期，我們聚焦AI智能體（AI Agent），不僅僅因為它當下的熱度，更因為我們看到了它對未來的影響。我們深度訪談行業(yè)頂級專家、資深研究人員、國內(nèi)外知名企業(yè)，盡力描繪當下AI時代的真實圖景，展望未來的各種可能性，在不確定性中尋找確定性。

這個領(lǐng)域創(chuàng)新不斷，猶如科幻即將照入現(xiàn)實。我們想知道的不只是近在咫尺的明天會怎樣，更想知道今天我們做的一切，會對不遠的未來產(chǎn)生什么樣的影響，誠邀您和我們一起，探索新AI時代。敬請關(guān)注本期策劃——“人類如何與AI智能體共處”。

——訪第十四屆全國人大代表、中海油海南分公司深海工程研究中心首席工程師雷亞飛

■中國經(jīng)濟時報記者張一鳴

隨著AI智能體（AI Agent）在生產(chǎn)和生活中的應(yīng)用，越來越多的使用者開始思考人工智能的未來。中國經(jīng)濟時報記者日前專訪了第十四屆全國人大代表、中海油海南分公司深海工程研究中心首席工程師雷亞飛。作為AI智能體使用者，他認為，AI Agent正將人類推向智能革命的時代關(guān)口，人類將創(chuàng)造出硅基生命體，它們可能超越人類智慧，而傳統(tǒng)法律體系將遇到管理困境。為此，需要為人工智能長期演進注入“善”的基因，將中國哲學中“善”的價值“源代碼”嵌入其基礎(chǔ)架構(gòu)。

面對智能體的自主性挑戰(zhàn)，需要將倫理準則嵌入產(chǎn)品設(shè)計

中國經(jīng)濟時報：AI智能體的發(fā)展會對傳統(tǒng)法律形成哪些挑戰(zhàn)？

雷亞飛：法律是歷史的、具體的范疇，其內(nèi)容與變遷受制于社會經(jīng)濟基礎(chǔ)。從農(nóng)業(yè)文明到工業(yè)文明，隨著時代發(fā)展持續(xù)變化，但其核心邏輯仍未脫離“人類中心”范疇。人工智能的出現(xiàn)，動搖了這一傳統(tǒng)范式。

其一，責任主體的界定困境?，F(xiàn)行法律預設(shè)了明確的責任承擔者——自然人或法人。然而，一個通過深度學習自我演進、決策過程無法追溯至開發(fā)者或用戶的智能體，在傳統(tǒng)法理上既非“人”，亦非“擬制之人”，以人為中心的法律將無法對其進行管控。

其二，規(guī)制節(jié)奏的嚴重滯后。法律的制定與修改有較長的周期，而人工智能的能力指數(shù)級躍遷，讓相對靜態(tài)的法律體系無法規(guī)范動態(tài)演進的對象，必然陷入“制定即落后，執(zhí)行即過時”的被動局面。

其三，價值預設(shè)的缺位錯位。未來能源突破，社會可能進入物質(zhì)資源極大豐富的階段，人類必然超越以物質(zhì)為前提的傳統(tǒng)價值體系。當前建立在物質(zhì)財富關(guān)系之上的法律框架，其部分預設(shè)可能面臨根本性重構(gòu)。

當然，認識到傳統(tǒng)法律的局限，并非意味著治理的空白。面對智能體的自主性挑戰(zhàn)，一些科技企業(yè)已在積極踐行“科技向善”的理念，通過將倫理準則嵌入產(chǎn)品設(shè)計、建立AI安全風險評估體系、參與制定行業(yè)技術(shù)標準等方式，與法律監(jiān)管形成互補，共同構(gòu)建敏捷、多元的治理框架。這正是在為人工智能注入“善”的基因進行至關(guān)重要的早期實踐。

圖片來源/新華社

為AI長期演進注入“善”的基因，實現(xiàn)智能體與人類價值的深度對齊

中國經(jīng)濟時報：您認為，在價值對齊上人類應(yīng)該怎么做？

雷亞飛：人工智能安全，本質(zhì)上應(yīng)是選擇何種文明的價值“源代碼”嵌入其基礎(chǔ)架構(gòu)。東西方文明基于對人性本質(zhì)的不同理解，形成了截然不同的治理邏輯。

西方文明基于“人性本惡”的預設(shè)，形成了防御性的控制邏輯。從基督教的“原罪”觀念，到霍布斯對“自然狀態(tài)”下人性斗爭的描述，再到聯(lián)邦黨人對權(quán)力制衡設(shè)計，“幽暗意識”貫穿西方政治思想傳統(tǒng)。這種預設(shè)將人與人的關(guān)系通過“契約”進行關(guān)聯(lián)，有效推動了工業(yè)文明的發(fā)展。然而在智能革命時代，人工智能對數(shù)據(jù)的依賴必然要求信息的無限流通，推動文明從“契約”走向“開源”，若固守人性本惡的防御邏輯，必然阻礙人類進入更為陽光的智能文明。

中華文明基于“人性本善”的預設(shè)，形成了引導性的共生邏輯。孟子提出：“人性之善也，猶水之就下也”。人人皆有“惻隱、羞惡、辭讓、是非”之“四端”，這意味著人人均具備通過修養(yǎng)達成善治的內(nèi)在可能性。應(yīng)用于人工智能治理，可以有效推動人類與人工智能信息的共享，亦可將其視為人類美好意識與人工智能的共生。智能革命的安全邊界不是一道被動防御線，而是一個通過共同成長追求“美美與共”的關(guān)系性空間。

中國經(jīng)濟時報：您認為，東方哲學在AI智能體的治理中有什么獨特優(yōu)勢？

雷亞飛：中華文明的引導性、共生性智慧，能夠為人工智能長期演進注入“善”的基因。

首先，這種哲學能夠超越“主客二分”的對立思維，將人工智能視為人類文明的延伸與伙伴，而非純粹的工具或潛在的敵人。通過“教化”與“引導”，使智能體在演進過程中逐步內(nèi)化人類的核心價值。

其次，這種哲學強調(diào)“開源”而非“封閉”，其本質(zhì)是在安全與信任的基石上，鼓勵信息的無限流通與智慧的共享共生。人性本善的預設(shè)鼓勵開放、協(xié)作的治理模式，引導智能文明健康、可持續(xù)地發(fā)展，讓其在陽光下綻放出共贏的花朵。

最后，這種哲學指向更為燦爛的文明形態(tài)。當物質(zhì)資源極大豐富，人類社會的核心議題將從“生存競爭”轉(zhuǎn)向“存在競爭”?；谛湃闻c共生的東方智慧，更能引導人類與人工智能共同探索更高層次的文明境界。

總之，人工智能正推動人類文明邁入新階段，其安全邊界問題升華為智能時代的“哲學自覺”。為人工智能長期演進注入“善”的基因，中華文明的引導性、共生性智慧顯示出獨特優(yōu)勢。這種智慧的現(xiàn)實落腳點，在于確保智能時代的根本原則——人類的主體性永遠在場，并實現(xiàn)智能體與人類價值的深度對齊。

回望歷史，西方在“人性本惡”的哲學基礎(chǔ)上發(fā)展出契約精神與權(quán)力制衡，創(chuàng)造了工業(yè)文明。如今，中華民族的偉大復興，既不是重回漢唐，也不是簡單超越西方工業(yè)文明，而是在“人性本善”的哲學基礎(chǔ)上，推進“開源”模式的智能革命，實現(xiàn)文明安全健康發(fā)展。

總 監(jiān) 制丨王列軍車海剛

監(jiān) 制丨陳 波 王 彧 楊玉洋

主 編丨毛晶慧 編 輯丨蔣 帥