在不久的將來，人工智能體或?qū)⒋罅坑咳胛覀內(nèi)粘９ぷ髋c生活，與我們建立特殊的工作和生活關(guān)系。應(yīng)當(dāng)如何理解這些關(guān)系的性質(zhì)？我們與人工智能體的關(guān)系邊界在哪里？人工智能體需要被納入受人類社會(huì)法律或道德保護(hù)的范圍內(nèi)嗎？這些問題都指向一個(gè)重要的理論問題：人工智能體是否可以有道德地位？但要回答這一問題，需要澄清以下三個(gè)問題：（1）為什么要談及人工智能體的道德地位問題？（2）我們能夠基于何種理由判定人工智能體的道德地位？（3）擁有道德地位的人工智能體對(duì)人類來說意味著什么？

我們?yōu)槭裁匆劶叭斯ぶ悄荏w的道德地位問題？道德是行為規(guī)范體系，規(guī)范“什么是對(duì)”“什么是錯(cuò)”“我應(yīng)該怎么做”。而道德地位則是道德考量資格，劃定道德關(guān)懷的邊界和層次。一般而言，討論道德地位是為了關(guān)懷人類族群中的脆弱群體乃至動(dòng)物。通過把某種人類屬性判定為道德地位考量的基礎(chǔ)，我們可以把那些需要關(guān)懷的脆弱人群和動(dòng)物納入關(guān)于義務(wù)或責(zé)任的社會(huì)規(guī)范體系。道德地位的名分并非與生俱來，而是隨著社會(huì)倫理觀念的變動(dòng)不斷發(fā)生變化。例如，有很多我們今天稱之為脆弱人群的社會(huì)成員在很長一段時(shí)間里并未獲得相稱的道德地位，而當(dāng)今社會(huì)甚至?xí)x予一些動(dòng)物以道德地位。對(duì)道德地位的理解，源于兩個(gè)關(guān)鍵因素：其一，在特定社會(huì)關(guān)系中，人們會(huì)基于一定社會(huì)角色賦予的權(quán)利義務(wù)屬性建立道德地位聯(lián)系。例如在家庭生活中的親子關(guān)系，在醫(yī)療環(huán)境中的醫(yī)患關(guān)系等等。其二，建立道德地位聯(lián)系的心理基礎(chǔ)是人類的同情心。這種同情心觸發(fā)了人類基于感覺和經(jīng)驗(yàn)體驗(yàn)的共情機(jī)制，其內(nèi)核在于對(duì)共情對(duì)象發(fā)揮道德想象力。由此，我們或許可以說，人工智能體也可以被賦予道德地位。隨著人工智能體，特別是具身智能體越來越多地融入社會(huì)工作和家庭生活，它們將與人類建立特定的工作關(guān)系或生活關(guān)系。人類勢必會(huì)在特定聯(lián)系中借助道德想象力把智能體納入道德地位的考量范圍。例如已經(jīng)出現(xiàn)的一些反對(duì)虐待人工智能體的研究，其實(shí)已經(jīng)在變相討論智能體的道德地位問題。

我們能基于何種理由判定人工智能體的道德地位呢？首先，人工智能體沒有生物學(xué)意義上的人類特征，無法從人類生物學(xué)屬性角度獲得道德地位理由的支撐。但是，隨著腦機(jī)接口項(xiàng)目不斷深入，這一立場或許也面臨挑戰(zhàn)。正如我們把人類基因編輯入動(dòng)物胚胎后，就要考慮結(jié)合體的道德地位問題。如果智能體深度參與人腦活動(dòng)的生物學(xué)機(jī)制，即便不涉及人類基因?qū)哟?，智能體也在一定程度上或可分有了某些人類生物學(xué)屬性。其次，對(duì)智能體道德地位提供較強(qiáng)支撐理由的是人類認(rèn)知屬性判定。我們可以根據(jù)人類認(rèn)知屬性特征賦予智能體以道德地位。雖然我們?cè)诤艽蟪潭壬险J(rèn)為智能體目前尚未達(dá)到人類認(rèn)知屬性的某些核心能力，但這并不妨礙我們對(duì)具備某些人類認(rèn)知屬性的非人類群類給予道德關(guān)懷。再次，智能體雖然目前沒有確切表現(xiàn)出人類情感機(jī)制，但這并不妨礙人類對(duì)智能體的共情。因?yàn)楣睬榈暮诵囊x是道德想象力。最后，從自主性理論出發(fā)，智能體也可能會(huì)像人類一樣做出道德決策。盡管做出道德決策的智能體或許沒有道德心智，不具備人類意義上的自主性，但這并不妨礙智能體可以在較好對(duì)齊人類價(jià)值基礎(chǔ)上，通過學(xué)習(xí)人類道德推理，最終得出近似人類的道德決策。就這一點(diǎn)來說，智能體顯然具備一種弱自主性。

擁有道德地位的人工智能體對(duì)人類意味著什么？如果人工智能體有了道德地位，它將被納入人類法律和道德的框架，與人類建立獨(dú)特的權(quán)利義務(wù)關(guān)系。在這個(gè)意義上，我們將對(duì)人工智能負(fù)有某些義務(wù)或責(zé)任，而人工智能體也將因?yàn)榫邆淠撤N被理解的自主性而負(fù)有某些責(zé)任或義務(wù)。雖然我們寄希望于這些權(quán)利義務(wù)關(guān)系是和諧共生的，但也不排除會(huì)產(chǎn)生相互沖突的風(fēng)險(xiǎn)。有一種可能是，一旦智能體有了道德地位，它勢必被納入人類相關(guān)道德事件的歸責(zé)體系。責(zé)任體系又會(huì)賦予智能體一定自主性并推動(dòng)智能意識(shí)研究，進(jìn)而與人類建立共生性道德關(guān)系。即便人類永遠(yuǎn)只把智能體當(dāng)作工具使用，也不能從根本上避免智能體在人機(jī)決策中實(shí)際上發(fā)揮主導(dǎo)作用。如果結(jié)局是這樣，人類就承擔(dān)了實(shí)際上并非由自己主導(dǎo)的決策后果。

因此，從某種意義上講，我們應(yīng)該認(rèn)真對(duì)待人工智能體的道德地位問題，研究其道德自主性邊界乃至與道德相關(guān)的智能意識(shí)，盡管這一趨勢突如其來，但我們不能置之不理，只有積極面對(duì)、未雨綢繆，才不至于風(fēng)險(xiǎn)發(fā)生時(shí)無計(jì)可施。

作者系 中國人民大學(xué)吳玉章特聘教授、哲學(xué)院副院長

來源 ：中國社會(huì)科學(xué)網(wǎng)

責(zé)任編輯：李秀偉

新媒體編輯：張雨楠

如需交流可聯(lián)系我們